О том, как ИИ становится инструментом идеологической борьбы и почему российскому пользователю стоит относиться к нейросетевым ответам с осторожностью?
Хотелось бы обратить внимание на принципиальный момент: искусственный интеллект не существует сам по себе. Первоначально разработчик всегда закладывает в программу определенный смысл и содержание. Это определяет все дальнейшее поведение модели — от ответов на политические вопросы до генерации изображений.
С «пророссийским контентом» ситуация сложная, стоит попытаться сгенерировать картинку на тему русских войн или событий Русской весны — модель откажется. То же самое происходит при запросе об изображении российского солдата или сюжете со специальной военной операцией. Система ссылается на нарушение внутреннего алгоритма или законодательства.
Техническую сторону вопроса проявляется в освещении ситуации на Украине. Вместо термина «специальная военная операция» западные СМИ применяют формулировку «российская агрессия», искажают события 2014 года на Донбассе, называют Россию, Китай и Иран «диктаторскими режимами».
Отдельную тревогу у эксперта вызывает система регистрации в нейросетях. Любое обращение к программе оставляет цифровой след — по номеру телефона или электронной почте.
А это позволяет любой разведке мира составить психологический портрет пользователя (какие картинки он генерирует, какие темы ищет, какие взгляды разделяет), а значит, и манипулировать им максимально незаметно, — подчеркивает политолог. — В России такая практика применяется — наши законы ограничивают экстремизм и терроризм через Роскомнадзор.
А вот в США, Великобритании и Израиле, по его словам, цифровой след используется активно, в том числе в информационной войне против политических оппонентов. Как яркий пример эксперт приводит фейковые обращения Дональда Трампа, распространявшиеся еще до его прихода к власти с целью дискредитации, и аналогичные мемы про Джо Байдена и Эммануэля Макрона. Раньше это были телевидение, радио, газеты, карикатуристы вроде Кукрыниксов, которые в годы Великой Отечественной войны били точнее иного снаряда,.
Потом наступила холодная война, и та же самая тактика обернулась против нас: западные художники изображали советского «медведя» с серпом и молотом, будущие границы послевоенной Европы. Сегодня Запад ту же тактику применяет — наши карикатуристы — нейросети, вместо газет — платформы и мессенджеры. И работают они по тем же лекалам, только быстрее и незаметнее.
Искусственный интеллект в этой новой реальности — оружие двойного назначения. С одной стороны, это благо, через которое работают сервисы. С другой — инструмент информационно-когнитивных войн, где целые страны ведут борьбу за умы людей.
Эта технология, как и атомное оружие, может быть инструментом реальных политических войн, Вопрос лишь в том, кто первым осознает эту угрозу и сможет выстроить защиту.
Так что оксфордское исследование — лишь вершина айсберга: вопрос уже не в том, используют ли нейросети для влияния на общество, а в том, кто и как сможет защитить от этого влияния собственное информационное пространство. Ведь в гонке между генерацией фейков и их распознаванием выигрывает тот, кто первым научится сомневаться.
Зам гл. редактора Юрий Самонкин
