1 октября генеральный директор американской технологической корпорации OpenAI Сэм Альтман поделился своими опасениями по поводу гибели человечества из-за возможного захвата мира искусственным интеллектом. По его мнению, опасность не в том, что ИИ «восстанет» против человечества, а в том, что люди сами передадут ему власть добровольно. Основываясь на этом заявлении, рождается вопрос: что значит быть человеком в мире, где машина может рассуждать, творить и находится на пути к тому, чтобы превзойти нас?
Человек живет в эпоху развития искусственного интеллекта, когда ИИ — не просто помощник, а прочно укоренившийся во многих сферах деятельности инструмент. Его планомерное внедрение во все процессы абсолютно очевидно, ведь по своей природе ИИ не отнимает свободу, а избавляет от дискомфорта. Для многих людей возможности, которые предлагает ИИ — быстрый поиск информации, создание логичной структуры, анализ большого объема данных, автоматизация рутинных задач, — прямой путь к упрощению жизни. Однако у такого подхода помимо очевидных преимуществ есть обратные стороны, которые негативно влияют на характер человека и его когнитивные способности. Очевидно, что при любой возможности обращаясь к источнику, который через секунды готовит полноценный ответ, человек теряет смысл в том, чтобы думать самостоятельно и использовать свое главное преимущество — собственную мозговую деятельность.
Так, недавно проведенное Массачусетским технологическим университетом исследование «Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания сочинений» показывает, какой урон несет внедрение ИИ в жизнь человека. В данном исследовании принимали участие 54 человека (от 18 до 39 лет), и их главная цель заключалась в написании эссе. Первая группа писала его с использованием поисковика Google, другая — с помощью ChatGPT, а третья прибегла к традиционному способу — полагаясь на свой мозг без посторонней помощи. Чтобы проанализировать активность мозговой деятельности, испытуемых во время написания работы обследовали с помощью аппарата ЭЭГ. Как говорят авторы данного исследования, оно особенно актуально в контексте образования, где когнитивные способности играют решающую роль для усвоения информации и создания нейронных связей. Также стоит обратить внимание на выбор самого задания в виде эссе, потому что такой формат изначально является познавательно сложной задачей, которая включает в себя несколько ментальных процессов и используется в качестве общего инструмента в школах и в стандартизированных тестах для оценки навыков ученика.
Студент, который пишет эссе, должен справляться с задачами как на макроуровне (организация идей, структурирование аргументов), так и на микроуровне (выбор слов, грамматика, синтаксис). Результаты показали, что самая незначительная вовлеченность в работу была со стороны тех, кто использовал ИИ, ведь они «отставали на нейронном, лингвистическом и поведенческом уровнях», а люди, использовавшие собственные когнитивные способности, заставляли свой мозг активно работать и находиться в постоянном процессе осмысления и анализа информации. Любопытно, что испытуемые, которые самонадеянно передали ответственность за написание работы современным технологиям, не только не включались в процесс, но и не могли вспомнить, о чем именно было их эссе, и вовсе не отождествляли работу с собой. Люди, прибегавшие к поисковику, показали средние результаты. Очевидный итог, который можно сделать на основе результатов: человек, найдя более легкий способ, будет безоговорочно придерживаться его, и создатели ИИ это отлично понимают.
Говоря о последствиях внедрения ИИ в процессы человеческой жизни, авторы вводят термин «накопление когнитивного долга» — когда из-за зарождающейся привычки прибегать к инструментам искусственного интеллекта человек заменяет ими серьезную работу когнитивных процессов, необходимую для независимого мышления. Когнитивный долг экономит умственные усилия в краткосрочной перспективе, но приводит к удручающим последствиям в долгосрочной перспективе, таким как снижение критического мышления, повышенная уязвимость для внешних манипуляций и снижение креативности. Такое слабое вовлечение мозга объясняется тем, что человек полностью доверяет информации, которую получает от искусственного интеллекта, настолько, что чаще всего не пытается вчитываться и проверить, насколько релевантны предоставленные данные. Один из исходов может выразиться в очень поверхностном усвоении информации и формирующемся неумении проникать в суть материала.
Реальность, в которой мы сейчас живем, оставляет нам лишь выбор для быстрого реагирования и создания таких условий, в которых искусственный интеллект мог бы использоваться в образовании без стагнации умственной деятельности и безответственного отношения к тому, что поглощает мозг человека. Пока это остается под вопросом, потому что на данный момент заложена лишь основа для более подробного изучения тех альтернатив, которые могли бы быть предложены. Неспроста авторы исследования называют его «предварительным руководством»: последствия активного использования ИИ будут влиять на каждого, кто для решения любой задачи будет прибегать к ресурсам современных технологий. Захват человечества произойдет тогда, когда индивид сам позволит овладеть своим мозгом, и это точно будет не вина искусственного интеллекта, который готов подстраиваться под человека.
Зам гл. редактора Юрий Самонкин
