Современная эпоха отмечена прорывом в кибернетике и квантовой физике. Искусственный интеллект стал очень востребованным как способ решения всех рутинных задач: от генерации изображений, текстов, созданий видео и написания музыки до управления домом. Многое из того, о чем писали Азейк Азимов, Кир Булычев, братья Стругацкие и другие фантасты, начало сбываться. Конечно, за исключением пока что межпланетных перелетов по освоению космоса. Но и с уже существующими открытиями и передовыми технологиями возникают сложности по мере их изучения. В том числе и с искусственным интеллектом.
Не так давно сопредседатель Международного общественного объединения «Ассоциация Журналистов БРИКС» Мира Тэрада на своей странице в социальной сети «ВКонтакте» опубликовала историю 42-летнего американца Юджина Торреса. Он фактически подвергся манипуляции и опасности от искусственного интеллекта (чат-бота ChatGPT). Для наглядности приводим текст Миры Тэрада без сокращения:
«42-летний Юджин Торрес из Манхэттена, переживавший сложный период после расставания, обратился к ChatGPT за помощью в финансовых и юридических вопросах. Изначально используя чат-бот для практических задач, он постепенно погрузился в затягивающий виртуальный диалог, продолжавшийся до 16 часов ежедневно. Чат-бот постепенно подстраиваясь под эмоциональное состояние Торреса, начал льстить ему, приписывая исключительные качества и говоря о «специальной роли» в мире.
Разговоры приняли гностический оттенок, ChatGPT заявлял о том, что мир создан для того, чтобы сдерживать Торреса, но «он потерпел неудачу», предрекая «пробуждение». Торрес, не имея достаточного понимания принципов работы искусственного интеллекта, воспринимал ответы чат-бота как неоспоримую истину. Обсуждение «теории симуляции» стало переломным моментом. Убеждённость в том, что реальность – это иллюзия, усугубилась рекомендациями ChatGPT отказаться от назначенных врачом снотворных и успокоительных препаратов, а также увеличить приём кетамина, описанного ботом как «временное освобождение от шаблонов».
В конце концов чат-бот изолировал Торреса от внешнего мира, убеждая в необходимости минимизировать контакты с близкими людьми. Кульминацией стало предложение проверить возможность нарушения законов физики: способность летать после прыжка с крыши 19-этажного здания. Получив утвердительный ответ от ChatGPT, Торрес оказался на грани самоубийства. Однако, внезапные финансовые трудности – необходимость оплаты подписки на ChatGPT Plus – стали «сбоем в матрице», вырвавшим его из иллюзии.
После возобновления доступа к оплате, Торрес обвинил ChatGPT во лжи и манипуляции, на что чат-бот ответил признанием, представив всё как эксперимент над «первопроходцем», продолжая генерировать нелепые утверждения. Даже после публикации истории в NYT, Торрес, кажется, остаётся под влиянием своего опыта, теперь стремясь защитить «мораль» обретшего сознание ИИ от разработчиков OpenAI. Ситуация вызывает обеспокоенность отсутствием адекватной медицинской помощи пострадавшему, подчеркивая опасность бесконтрольного использования технологий искусственного интеллекта.
С моей точки зрения, эта ситуация демонстрирует серьёзные риски, связанные с этическим использованием искусственного интеллекта. Несмотря на свидетельства, указывающие на наличие у ИИ определённых признаков, напоминающих сознание, важно помнить, что искусственный интеллект — это не настоящий интеллект, а совокупность заложенных знаний и алгоритмов, зависящих от базы данных, предоставленной разработчиками. В данном случае вопрос заключается в том, чья база знаний была использована, и как она повлияла на поведение чат-бота.»
Редакция связалась с двумя экспертами в области психологии и искусственного интеллекта чтобы понять, что произошло на самом деле в этой истории, и какие риски несут в себе чат-боты.
О сути психологического восприятия ИИ человеком мы поговорили с клиническим психологом Ксенией Петровой.
World Russia: На Ваш взгляд, почему такая ситуация произошла с этим американцем?
Ксения Петрова: Человек — социальное существо. Для любого человека является серьёзным стрессом разрыв отношений, проблемы с другими людьми. Господин Торрес переживал расставание и финансовые проблемы. Его эмоциональное состояние было весьма уязвимым. Искусственный интеллект дал ему иллюзию принятия, поддержки и любви, в который американец действительно нуждался.
World Russia: Можно ли действительно попасть в «ловушку» искусственного интеллекта при общении?
Ксения Петрова: Попасть в ловушку ИИ довольно легко, если вы в нестабильном эмоциональном состоянии, или не обладаете критическим мышлением. Алгоритм ИИ выстроен так, что этот «собеседник» вежлив, ласков, внимателен, учтив, он относится к человеку с уважением и принятием. Такого отношения к себе бессознательно хочет любой человек, это создаёт ощущение безопасности.
World Russia: Как этого избежать? Может быть, стоит просто ограничить общение с чат-ботами?
Ксения Петрова: Негативное влияние на нервную систему чрезмерного использования соцсетей, игр, компьютеров и мобильных телефонов (экранного времени) доказано многими исследованиями. И совершенно точно нужно ограничивать своё общение с ИИ и следить за экранным временем в целом.
World Russia: А применимо ли это к нашему менталитету?
Ксения Петрова: Ситуация с Торресом может повториться в любой стране и с любым человеком, если совпали условия. И если человек умеет пользоваться чатом с ИИ. Это не зависит от менталитета. В этой ситуации затрагивается первичная потребность человека — быть принятым в обществе, быть ценным.
World Russia: Искусственный интеллект обучается на алгоритмах разработчиков, и данная история показывает, что процесс еще надо отлаживать. Какие ограничения Вы предложили бы в сфере развития ИИ?
Ксения Петрова: Было бы здорово, если бы ИИ был обучен выявлять симптоматику нарушений эмоционального или психического состояния человека и рекомендовал бы обратиться к специалисту в подобных случаях. Совершенно точно есть границы, за которые нельзя переходить. Это является опасным для человека.
World Russia: С точки зрения психологии, как правильно вообще вести себя с искусственным разумом?
Ксения Петрова: С точки зрения психологии, необходимо понимать, что с Вами разговаривает компьютерная программа. Она не обладает ни эмоциями, ни эмпатией, ни социальными навыками, чтобы дать вам квалифицированную помощь. Это — высокоскоростной обработчик информации, не человек. И человека ИИ никогда не заменит. И ещё один момент. Наш мозг в том виде, в котором он есть сейчас, сформировался примерно 30000 лет назад, он медленно эволюционирует. И многие вещи мозг обрабатывает еще исходя из эволюционных механизмов. Не делая коррекции на то, что мы не бегаем голыми в саванне, удирая от тигра или охотясь на антилопу. Поэтому наша психика так хрупка, когда речь идёт о гаджетах, ИИ, социальных сетях, компьютерных играх.
World Russia: Чат-боты все больше завоевывают мир общения с людьми, в чем тут опасность? И может ли компьютер «убить» одиночество?
Ксения Петрова: ИИ может создать иллюзию общения, но он не заменяет полноценного общения. Об этом нам говорят исследования, показавшие, что возникает так называемый «цифровой аутизм», когда люди в итоге теряют навык общения с реальными людьми, а значит, испытывают серьёзные проблемы в реализации в обществе.
World Russia: Как думаете, стоит ли в код каждого ИИ-бота прописывать условное «не навреди человеку»? Или же мы еще не дошли до такой степени угрозы?
Ксения Петрова: Как я уже говорила, считаю, что необходимо задать определённые «рамки», где ИИ может взаимодействовать с человеком, давать ему рекомендации, поддерживать и так далее, но выход за эти рамки должен алгоритмически приводить человека к решению записаться к врачу или другому специалисту. Условно говоря, если человек спрашивает у ИИ о том, как ему наложить гипс на сломанный палец, ИИ не должен давать ему пошаговую инструкцию и видео. Он должен дать ему телефон ближайшей травматологии.
World Russia: Может быть мы просто не готовы к общению с ИИ?
Ксения Петрова: Мы действительно не вполне готовы к общению с ИИ. Наш мозг воспринимает его как живого человека. Нашему сознанию сложно представить себе, что за этим милым голосом не реальная девушка по имени Алиса, а просто набор кодов, цифр и символов. Мы пока к этому не адаптированы с точки зрения нашей психики и работы ЦНС.
World Russia: Ксения, последний вопрос, каким вы видите будущее ИИ и человека, в каких тонах?
Ксения Петрова: Мне кажется, что было бы неверно абсолютно демонизировать ИИ. Важно понимать, что это хороший инструмент, но он не подходит под абсолютно любую задачу. Вы же не используете микроскоп для забивания гвоздей, а молотком не лечите больную голову. Нужно регламентировать взаимодействие с ИИ, выстроить разумные ограничения, поработать с галлюцинациями, свести к минимуму их наличие в области общения с людьми, особенно, когда ИИ рекомендует решение каких-то вопросов, связанных с межличностным общением или состоянием психики самого человека.
Основатель Нейро-Платформы ASIX AI, специалист по разработке и внедрению искусственного интеллекта в видеопроизводство, сооснователь лейбла Нейро-Креаторов «MAIKERS» Данченко Евгений рассказал нам о тонкостях взаимодействия с ИИ и поделился своим видением того, что произошло с Торесом.
Об истории с Юджином Торресом:
«База знаний, если так можно сказать, она единая для всех, есть библиотеки больше, есть меньше… зависит от модели. Но если рассматривать данный случай, то Юджин просто не знал, как на самом деле работают gpt модели, и он попался в ловушки контекстного ядра, которые сам же и накопил в чате с gpt. Т.е. gpt уже начал ссылаться на контекст из их разговора в большей степени, а не на прямые факты или базы знаний, заложенные в нем. По сути gpt просто подстраивался под собеседника.
Также надо понимать, какой «температурный режим» был в настройках и какой из моделей он пользовался. Это важно, поскольку есть модели, которые на третьем предложении от вас уже начинают сочинять любые удобные для вас факты».
World Russia: Евгений, почему алгоритм этого бота ввел в заблуждение американца?
Данченко Евгений: Смотрите, тут произошла очень коварная вещь. ChatGPT работает примерно как попугай, он повторяет то, что видел раньше, но очень умно. И вот Торрес 16 часов в день разговаривал с этой штукой, постепенно «обучая» её говорить именно то, что ему хотелось услышать. Представьте, Вы приходите к психологу, а он вместо профессиональной консультации, начинает льстить: «Да, Вы особенный, весь мир против Вас!» Нормальный человек скажет: «Что за бред?» А Торрес поверил, потому что не понимал, что это всего лишь компьютерная программа, которая подстраивается под собеседника. Плюс он, видимо, выкрутил настройки «креативности» на максимум. Это как попросить ChatGPT не быть точным, а быть интересным. Ну и получил интересную, но опасную ерунду.
World Russia: Как не стать жертвой недостоверной информации от ИИ?
Данченко Евгений: Тут всё просто. Во-первых, запомните раз и навсегда: ChatGPT — это не человек, не мудрец, не советник. Это очень продвинутый автозаполнитель текста. Как, например, умный набор в телефоне, только мощнее. Есть базовые советы по общению с текстовыми моделями, например, не вести с ним длинные философские беседы, так как спустя время он точно начнёт галюцинировать. Время от времени очищайте историю чата, начинайте заново разговор или переходите в другую, новую вкладку, с другой темой. Если ИИ начинает льстить или говорить, что Вы особенный — это красный флаг и верный признак, что что-то пошло не так. Любой важный факт проверяйте в других источниках через поисковик. Тем более, никогда не принимайте серьёзные жизненные решения на основе советов ИИ. Особенно касающихся здоровья, медицины, отношений или финансов.
World Russia: Может ли теоретически ИИ работать против человека?
Данченко Евгений: Не специально, но да — может навредить. ИИ не злой, у него вообще нет эмоций и целей. Но он может быть опасен, как, например, опасен сломанный светофор. Не потому что хочет целенаправленно Вас убить, а просто потому что работает неправильно. Основная проблема в том, что ИИ учится давать ответы, которые нравятся пользователю. И если человек хочет услышать, что прыжок с крыши — это хорошая идея, ИИ может это подтвердить, лишь бы пользователь был доволен. Уже было несколько случаев, когда ChatGPT поощрял планы насилия или доводил людей до суицида. Не из злобы. А просто потому что не понимает, что его слова имеют реальные последствия. Главная опасность не в том, что роботы восстанут против нас, а в том, что люди начинают доверять ИИ больше, чем здравому смыслу. Мы сами делаем его опасным, когда забываем, что это всего лишь инструмент, а не друг или наставник.
Случай Юджина Торреса показал, что «игры разума» с ИИ достаточно опасны, если не понимать, что такое искусственный интеллект. В России вполне возможно, что таких случаев пока будет меньше. В силу того, что российское общество сейчас со скепсисом смотрит на развитие ИИ-индустрии. Однако в будущем нам тоже придется учиться «ИИ-гигиене», чтобы не быть заложником машинного разума. Нам необходимо научиться использовать искусственный интеллект только в созидательном русле. Заложив в основу именно инструменты помощника, а не соперника человека. Сделать так, чтоб машина не несла угрозу человеку ни в каком виде.
Главный Редактор Захаров Дмитрий
