Даниил Янкелевич, Ольга Маскалик, Валерия Прокуратова (Санкт-Петербург)
Об этических аспектах использования ИИ, программах, позволяющих упростить работу, применении ChatGPT в медицине и связанными с этим страхами рассказали Даниил Янкелевич, врач-дерматовенеролог, Валерия Прокуратова, Ведущий специалист по связям с общественностью Центра научной коммуникации Университета ИТМО и Ольга Маскалик, HRBP бизнес-школы и руководитель клуба BeWinner, бизнес-психолог, преподаватель Университета ИТМО. Эксперты обсудили различные сферы применения нейросетей от телемедицины и коучинга до родительства и путешествий.
Правила работы с ИИ
Существуют два ключевых правила, когда ведется работа с искусственным интеллектом:
- прозрачность,
- факт-чекинг.
Прозрачность означает, что если вы что-то используете, то нужно признать, что, например, работаете с чатом GPT и у вас есть такие-то правила: кто-то удаляет фио пациента и так далее.
Коллеги могут даже делиться промптами, которые работают. Можно делать в коллективе базу промптов, которые выверены, точно работают, и таким образом у вас будет полезная библиотека, к которой можно будет обращаться.
Факт-чекинг - надо понимать и всегда помнить, что ИИ может врать. Эксперт вспоминает пример, как она работала с чатом GPT, который предложил выгрузить все результаты в виде гугл-таблицы и в итоге прислал нерабочую ссылку.
Важно! Это хороший, удобный ассистент, но он может несколько заискивать, врать, поэтому всегда за ним необходимо следить.
Важна прозрачность и в отношении пациентов. То есть, если вас спросят, написали вы это с помощью ИИ или нет, то можно сразу тоже обозначить какие-то границы, как вы используете ИИ, потому что, очевидно, у людей насмотренность повышается.
Врать и как-то обходить эту тему бесполезно и неэтично.
Этика и навигация в мире ИИ
Глобально этика в искусственном интеллекте — это несколько разных векторов.
Выше представлена фотография Аманды Аскелл - сотрудницы компании «Антропик» (разработчик чат-бота Claude). Она специалист по этике и отвечает за совместимость искусственного интеллекта с человеческими ценностями.
Какие ее основные задачи?
- Минимизация риска, связанная с предубеждениями.
- Создание гибкого разума, который избегает жёстких моральных установок.
- Подготовка ИИ к работе с запросами, которые приводят к генерации вредного и дискриминационного контента.
- Подготовка к взаимодействию с моральной двусмысленностью.
Как она это делает?
Она тренирует его за счет True Crime, даёт им разные задачи, как на рисунке ниже.
Границы этики
Когда идет речь про использование искусственного интеллекта врачами в медицине, в коммуникации с пациентами важно помнить те этические принципы, которые чаще всего созвучны с медициной:
- честность,
- прозрачность,
- уважение,
- конфиденциальность,
- безопасность.
Важно! У искусственного интеллекта случаются утечки данных. Обязательно удаляйте данные пациентов.
Пациент имеет право знать, когда он общается с человеком, а когда - с искусственным интеллектом. И если он это спрашивает у врача, то нужно отвечать честно. Потому, что доверительные отношения — это всегда залог чего-то долгосрочного и успешного.
Искусственный интеллект — это инструмент. Это не субъект этики. Это хороший инструмент, которым нужно пользоваться, но осторожно. Врач — главный носитель эмпатии и ответственности.
Важно соблюдать баланс между технологиями и человеческим подходом.
Практические инструменты
HeyGen
HeyGen - это цифровые аватары и быстрый перевод роликов на разные языки с сохранением липсинга. То есть полностью сохраняется движение губ в зависимости от языка. Создатель платформы Лекториум (самой большой в России с образовательными курсами), говорит о том, что скоро для сьемки курса не нужно будет лектору приезжать на целый день, несколько дней съемок. Нужно будет привести лектора сняться на зеленом фоне, чтобы он покрутился перед камерой в разных позах и хорошо было видно его лицо. Дальше уже можно накладывать текст, и ролик делается в HeyGen полностью.
В социальных сетях уже это активно используется HeyGen, и важно не забывать про безопасность.
Сейчас частые истории мошенничества, когда звонят будто бы родственники, даже видео полностью вообще похожие. Оказывается, это с помощью таких инструментов сделано.
Napkin AI
Этот инструмент позволяет очень быстро визуализировать текст, который ему подгружают.
Эксперт в чате GPT сделала список для шпаргалки “какие рутинные задачи позволяет решать ИИ, чат GPT”. Он его выгрузил и эксперт подгрузила в Napkin. Ai.
В результате была получена визуализация, представленная на рисунке выше.
Это можно делать бесплатно, создавать до трёх полотен, куда вы загружаете текст. Этот инструмент постоянно совершенствуется, появляются дополнительные возможности вносить какие-то правки.
Вы загружаете текст, и он предлагает сразу несколько вариантов визуализации. Можно показать иерархию или какой-то временной цикл, либо график и т.д., можно внутри менять шрифт, текст, как это будет выглядеть.
Если вы точно знаете, что вам нужно, в поисковике, даже в настройках тоже можно указать, какой вид визуализации вас интересует и он вам предложит варианты.
Это очень удобно, в том числе для презентаций, для создания каких-то шпаргалок.
Более подробно о действующих инструментах нейросети, особенностях их применения, преимуществах и рисках смотрите в видеолекции экспертов.