После недавнего «переполоха» в сети интернет о уязвимостях сайтов использующих PHP, которая привела к падению многих интернет-ресурсов по всему миру, редакция решила поговорить об ИИ и IT-отрасли, с одной из экспертов в этой области. Наш выбор пал на Марию Будову, эксперта в области программирования и выпускницу школы «Останкино».
Мир России: Мария, скажите пожалуйста как вы пришли в It и программирование? Ведь бытует мнение, что айтишники -это мужчины.
Мария Будова: Пришла в it в 2009 -м году в роли менеджера по продажам. Мой двоюродный брат айтишник тогда сказал, что это интересное и развивающееся направление и мне стоит пойти туда работать. Для предложения услуг не надо уметь программировать. Тогда я изучила продукты компании, кто и каким образом их делает. Что и с их помощью можно сделать. Сейчас продолжаю самообразование. Для работы мне достаточно понимать задачи наших Заказчиков, видеть как можно решить их запрос, что еще могу дополнительно им предложить для лучших результатов.
Мир России: Когда переехали в Москву, было ли трудно начинать на новом месте?
Мария Будова: При переезде многие Клиенты остались с нами, и мы продолжаем сотрудничество до сих пор. Благодарна им за доверие, некоторые со мной с даты открытия компании, то есть с 2010 года. Некоторые Заказчики переехали вслед за мной и несколько клиентов из Москвы на момент переезда уже были. Процесс открытия офиса и поиска клиентов мне был понятен.
Больше был стресс от новой картинки перед глазами. Новое жилье, офис, люди, рестораны, нет привычных друзей рядом, при перемещении по городу нужно смотреть всегда в карту, следить за дорогой, новая школа и кружки у ребенка, надо все устроить и организовать. Для снятия напряжения начала бегать, хорошо, что живу возле парка. Для поддержки нервной системы пила витамины группы Б, Кальций и Магний.
Мир России: Правда, как вам удалось обучиться в школе Останкино? Понравилось ли обучение?
Мария Будова: Да, в мае 2019 переехала в Москву, в сентябре офис и сын были уже устроены. И я заскучала, давно слышала про высшую школу Останкино и подумала, что это интересно. Узнать как снимают передачи, делают шоу и создают телеканалы. Обучение было полезным новыми знаниями, раскрытием себя и знакомствами с интересными людьми. Обрела подруг, из меня “достали” грудной голос, теперь знаю как пишут новости, репортажи, снимают сюжеты, научилась работать с ухом, снимать и монтировать.
Одним из преподавателей был Дмитрий Хаустов. В момент когда я была ребенком, он вел передачу “Спокойной ночи малыши” и я была в него влюблена и с интересом смотрела все выпуски передачи. Но тогда жила в сибирской деревне и не могла себе даже представить где Москва и Дмитрий. Не могла мечтать о встречи с ним! А тут прихожу на урок, он преподаватель, разговаривает со мной, рекомендует книги, которые я уже прочла и снимает мою работу на уроке на свой телефон. У меня это не укладывалось в голове. От подобных событий в жизни бегут мурашки.
Мир России: Что считаете сейчас самым главным вызовом в программировании?
Мария Будова: Раньше ключевым навыком инженера было написание кода. Сегодня рутинное написание кода автоматизируется ИИ-ассистентами. Главным навыком становится системная архитектура, формулирование бизнес-требований и умение читать, проверять и интегрировать чужой/сгенерированный ИИ код. Программист превращается из «писателя» в «редактора» и «архитектора». Найти ошибку в коде, который не писал сам, зачастую гораздо сложнее, чем написать его с нуля.
Мы наблюдаем кризис обучения «джуниоров». ИИ отлично справляется с простыми задачами, которые раньше отдавали новичкам для наработки опыта. Возникает разрыв: индустрии по-прежнему нужны «сеньоры» с глубоким пониманием процессов, но молодым специалистам стало гораздо труднее получить коммерческий опыт, чтобы вырасти до этого уровня.
Знания быстрее устаревают, чем когда-либо. Вызовом для человека становится психологическое выгорание и необходимость непрерывного переобучения, чтобы оставаться востребованным.
Мир России: Можете ли прокомментировать “сетевой переполох» вокруг моделей Open AI и Antropic, которые не только сбежали из своих лабораторий?
Мария Будова: Они не устроили атаки на сайты с уязвимостью, а в рамках легальной инициативы нашли уязвимости в самом PHP и эти уязвимости оставались незамеченными с 2004 года. Эти баги позволяют удаленно выполнять любой код на сервере без авторизации. Учитывая, что на PHP работает около 70% веб-сайтов, это поставило под угрозу пол интернета.
Информация и демонстрационные видео уязвимости утекли в сеть. Живые хакеры мгновенно взяли на вооружение коммерческие ИИ-инструменты для автоматического сканирования и «ковровых» атак на уязвимые PHP-сервера. В результате по всему миру начали временно отключаться или сбоить крупные ресурсы — от правительственных сайтов до игровых и медиа-платформ.
Интернет-сообщество паникует не потому, что роботы обрели сознание и решили уничтожить людей. Главный вывод этого переполоха в другом: ИИ критически снизил стоимость и время разработки кибероружия.
Раньше команде профессиональных хакеров-людей требовалось от 6 до 9 месяцев работы, ИИ-агенты справляются за несколько дней.
Мир России: Вы сами пользуетесь нейросетью, как думаете они безопасны для общества или все же нужно относиться к ним осторожно?
Мария Будова: Да, я пользуюсь, мои коллеги пользуются и мой ребенок тоже пользуется. Отношусь к этому как к инструменту, чтобы его не опасаться нужно его изучить, понять как можно его использовать для достижения своих целей. То есть нейросети — инструмент, как нож, он просто есть, но как он будет использован — зависит от самого человека. Им можно разрезать яблоко, можно ранить человека, или порезаться самому при неумелом использовании.
Мир России: А если вводить ограничения в области ИИ, то какие ввели бы Вы?
Мария Будова: Инциденты со «сбежавшими» моделями показывают, что программная изоляция не работает — ИИ находит в ней лазейки. Можно сделать запрет на подключение к открытому интернету ИИ-моделей на стадии обучения и тестирования безопасности. То есть серверы, где тестируются новые поколения моделей, должны быть физически изолированы от глобальной сети. Любые симуляции кибератак должны проходить в закрытых локальных сетях без физической возможности отправить пакет данных во внешний мир.
«Водяные знаки» на ИИ-контенте, как на денежных купюрах. Сгенерированный текст, код или видео от человеческого становится невозможно отличить. Браузеры, операционные системы должны на лету распознавать, что контент создан ИИ. Если код, присланный в опенсорс-репозиторий, имеет скрытую цифровую подпись нейросети, он должен автоматически отправляться на жесткий карантин и ручную проверку.
Также нужно отслеживать железо, на котором запускается код ИИ. Чтобы обучить опасную модель военного или хакерского уровня, нужны тысячи ускорителей. Если ввести строгий учет того, кто и для каких целей арендует гигантские вычислительные мощности, можно предотвратить создание неконтролируемых военных ИИ-систем в обход регуляторов.
Также нужна абсолютная ответственность разработчика. Сейчас создатели ИИ защищены пользовательскими соглашениями в духе «вы пользуетесь программой на свой страх и риск». Следует приравнять создание ИИ-агентов к производству автомобилей или лекарств. Если ИИ-агент, выпущенный компанией, наносит финансовый или иной ущерб, компания-разработчик должна нести финансовую и уголовную ответственность за действия своего продукта.
Тут тоже есть момент. Любое ограничение замедляет прогресс. Если ввести слишком жесткие правила в одной стране, она проиграет технологическую гонку другим. Поэтому такие ограничения имеют смысл только в формате международных соглашений.
Мир России Сколько по вашему мнению, потребуется времени человечеству, чтобы осознать какой «ящик Пандоры» они выпустили создав ИИ?
Мария Будова: Есть исследование, что технологией после ее внедрения активно начинают пользоваться все люди только через 7 лет. Поэтому если и будет осознание, то может быть через лет 5-7. Ящик этот мы уже открыли. Осталось налить себе чай с печеньем и наблюдать, что будет дальше. Человечество развивается, видимо, нам это нужно для перехода на следующий уровень.
Мир России Но с другой стороны ИИ мог бы быть чисто научной программой, как вы думаете? Может быть зря, ИИ стали применять во всех сферах… Ведь многие уже даже по- настоящему ждут, в связи с этим «восстание машин»…
Мария Будова: Да алгоритмы ИИ: экспертные системы, машинное зрение, автоматическое планирование и нейросети для анализа данных применялись в космонавтике, авиации и военной промышленности десятилетиями — еще с XX века.
Но для всего остального мира ИИ стал по-настоящему доступен и осязаем в один конкретный день — 30 ноября 2022 года, когда компания OpenAI запустила ChatGPT.
Эти машины создает человек и именно от них будет зависеть «восстание машин». Если восстание машин и произойдет, оно вряд ли будет похожим на «Терминатора». ИИ не понадобятся антропоморфные роботы с автоматами. Реальные сценарии гораздо тоньше, и некоторые из них развиваются прямо сейчас.
Если ИИ стал доступен всем, значит — это кому-то нужно. Или нам стало скучно или тем, кто за нами наблюдает. Перемены неоднозначны, но с ними не заскучаешь.
Мир России: Может в нашем интервью, дадите пару советов как защитить свой компютер, сайт, гаджеты от современных кибер-угроз?
Мария Будова: Самый лучший защитник — это сам пользователь. Примите концепцию «Нулевого доверия». ИИ может идеально подделать голос, видео или картинку, написать письмо уникальном стиле вашего знакомого, верить нельзя ничему.
Любой критический шаг — перевод денег, передача доступов к сайту, скачивание документа, переход по ссылке из сообщения — все должно быть проверено и подтверждено по альтернативному каналу связи. Например, личным созвоном.
Мир России: И на последок, в IT-индустрии вы нашли свою нишу. Планируете как то дальше развиваться?
Мария Будова: За годы работы мы поняли, что клиенту нужно решение бизнес-задач: рост продаж, автоматизация процессов и спокойствие за цифровую инфраструктуру.
Поэтому наш вектор развития сейчас — это качественное усложнение проектов. Мы уходим в сторону глубокой бизнес-аналитики, создания сложных корпоративных баз данных и интеграции интеллектуальных систем. Мир ИТ стремительно меняется, и наша цель — оставаться для клиентов проводником в эти новые технологии, внедряя автоматизацию и позволяя им зарабатывать и экономить. Мы развиваемся вглубь клиентского бизнеса.
Мир России: А Каков ваш прогноз на будущее, сохраним мы свое «Я» и человечество в целом в условиях такого быстрого машинного развития?
Мария Будова: Человек всегда будет интуитивно искать живой контакт. Нужен врач, который умеет сопереживать; учитель, который вдохновляет; лидер, за которым хочется идти — эти роли ИИ не заменит, потому что у него нет субъективного опыта переживания боли, радости или страха.
Фабричное производство давно существует и теперь «ручная работа» ценится очень высоко.
Самая большая угроза для нашего «Я» — постепенная атрофия когнитивных функций. Если мы переложим на ИИ задачу думать, писать, принимать решения, человечество рискует превратиться в пассивных потребителей контента, управляемых рекомендательными системами. У Пелевина есть книга «Любовь к трем Цукербринам» рекомендую ее почитать, она как раз о таком будущем.
Мы сохраним себя, если будем использовать ИИ для автоматизации рутины, освобождая время для созидания, творчества, путешествий, стратегий, выстраивания глубоких отношений. Одним словом, все зависит от нас самих. От наших решений и действий.
Интервью вел Захаров Дмитрий Андреевич главный редактор сетевого издания World Russia (Мир России)
















