Генеральный секретарь ООН Антониу Гутерриш призвал ведущие технологические державы разработать международные механизмы управления рисками, связанными с развитием искусственного интеллекта. Выступая на открытии общих прений 81-й сессии Генеральной Ассамблеи ООН, он провел параллель с периодом холодной войны, когда СССР и США создавали механизмы снижения риска недопонимания, эскалации и катастрофических последствий.
По мнению Гутерриша, государствам, обладающим наиболее значительными возможностями в сфере ИИ, сегодня также необходим стратегический диалог. Среди приоритетов он назвал обмен информацией о новых рисках, сотрудничество в тестировании и оценке систем искусственного интеллекта, повышение прозрачности и формирование общих механизмов безопасности. Отдельное внимание генсек ООН обратил на усиление влияния крупнейших технологических корпораций и риски передачи критически важных решений машинам.
Насколько реалистично создание глобальных правил в условиях технологической конкуренции государств, нужны ли миру международные «красные линии» в сфере ИИ и какую позицию в этой дискуссии может занять Россия? Об этом интервью с Сергеем Вотяковым — председателем Правления Ассоциации РУССОФТ, руководителем рабочей группы по искусственному интеллекту ТПП РФ, ректором Академии NARPA.
— Насколько актуальна сегодня инициатива о создании международных механизмов управления рисками в сфере ИИ? Какие риски действительно требуют договоренностей между ведущими технологическими державами?
— Мне здесь близка позиция Национальной комиссии по этике в сфере искусственного интеллекта, членом которой я являюсь. Международные механизмы, которые предполагают жесткое ограничение развития технологий, на мой взгляд, нежизнеспособны.
Правительства США, Китая и России рассматривают искусственный интеллект как технологию, способную обеспечить стране мировое лидерство. Поэтому создать международный механизм, который будет жестко регулировать развитие ИИ и одинаково соблюдаться всеми сторонами, практически невозможно: государства прежде всего исходят из собственных технологических интересов.
При этом реально работать могут этические механизмы и саморегулирование самого профессионального сообщества. Разработчики и технологические компании могут добровольно принимать на себя обязательства контролировать риски и придерживаться определенных гуманистических принципов независимо от государственных границ.
Я знаю многих идеологов и разработчиков искусственного интеллекта как в России, так и за рубежом, и многие из них готовы принимать на себя такие обязательства, чтобы искусственный интеллект не наносил ущерба человечеству. На мой взгляд, сегодня это гораздо более жизнеспособный подход, чем жесткое международное регулирование.
— Насколько корректно сравнивать риски развития ИИ с ядерными рисками времен холодной войны? Нужны ли государствам международно согласованные «красные линии» в сфере разработки и применения ИИ?
— На мой взгляд, сравнение искусственного интеллекта с ядерными рисками сильно преувеличено. Искусственный интеллект — это прежде всего инструмент. Гораздо корректнее сравнивать его появление с распространением электричества или первых компьютеров.
Ядерное оружие изначально является технологией массового поражения, поэтому прямое сравнение с искусственным интеллектом считаю некорректным.
Что касается «красных линий», любые жесткие ограничения одновременно становятся ограничениями для развития самой технологии. С одной стороны, мы хотим, чтобы искусственный интеллект развивался, с другой — опасаемся возможных негативных последствий и пытаемся заранее установить рамки. Но проблема в том, что мы пока не знаем, по какому пути будет развиваться технология.
Кроме того, на мой взгляд, нынешний период повышенного внимания и хайпа вокруг генеративного ИИ постепенно будет сменяться более спокойным этапом. Так происходит с большинством новых технологий: после пика ожиданий наступает период разочарования, а затем начинается нормальное промышленное и прикладное внедрение. И это хороший процесс — уйдет информационная «пена», а компании и специалисты, которые действительно занимаются ИИ, продолжат работать и внедрять технологию в экономику.
— Какие механизмы международного взаимодействия могли бы реально работать: общие стандарты безопасности, обмен информацией об инцидентах, сертификация высокорисковых систем, ограничения на отдельные применения ИИ?
— Есть направления, которые уже доказали свою работоспособность. Это стандартизация, обмен данными, международные научные команды и совместные образовательные проекты. Именно здесь международное взаимодействие может быть действительно эффективным.
Россия традиционно обладает сильной фундаментальной наукой и высоким изобретательским потенциалом, поэтому у нас есть основа для технологического сотрудничества с другими странами. При этом универсального механизма взаимодействия со всеми государствами быть не может.
С разными странами могут формироваться разные направления сотрудничества. Например, с Индией — в образовательной сфере, с Китаем — в научной. Определенные возможности для взаимодействия сохраняют и международные площадки, включая ООН.
— Как совместить международное регулирование рисков ИИ с задачей обеспечения технологического суверенитета России? Где должна проходить граница между международными договоренностями и национальной технологической политикой?
— На мой взгляд, технологический суверенитет России и регулирование рисков искусственного интеллекта напрямую друг другу не противоречат.
Для нас наиболее приемлемым механизмом международного регулирования остается саморегулирование. Каждый разработчик, каждая технологическая компания должны брать на себя ответственность за управление рисками, связанными с искусственным интеллектом, внутри своей деятельности.
Такой подход никак не мешает технологическому суверенитету. Наоборот, чем больше в стране сильных, устойчивых и технологически развитых компаний, тем лучше для государства. А вопросы управления рисками компании могут решать в рамках собственных обязательств и профессиональных стандартов.
— Гутерриш обращает внимание на усиление влияния крупнейших технологических корпораций. Насколько существует риск, что правила развития ИИ фактически будут определяться ограниченным кругом глобальных компаний?
— Я бы с таким утверждением поспорил. В мире постоянно появляется большое количество новых технологических компаний. Если посмотреть на крупнейшие компании и их капитализацию десять лет назад, пять лет назад и сегодня, мы увидим очень разные списки.
Даже глобальные корпорации проходят определенный жизненный цикл: рост, период максимальной эффективности, затем стагнацию. Одновременно появляются новые игроки, способные достаточно быстро изменить расстановку сил на рынке.
Мы видели появление DeepSeek и других технологических компаний, которые начали заметно влиять на рынок искусственного интеллекта. Поэтому я бы не исходил из того, что несколько нынешних глобальных корпораций смогут навсегда определить правила развития ИИ. Технологический рынок гораздо динамичнее.
— Какую роль Россия может играть в формировании международных правил, стандартов и подходов к безопасному развитию ИИ?
— Надеюсь, значимую. Как минимум Россия может играть существенную роль в формировании подходов к искусственному интеллекту в рамках БРИКС.
Среди стран объединения Россия и Китай обладают серьезными собственными компетенциями в технологиях искусственного интеллекта. При этом многое будет зависеть от позиции Китая и от того, как будет выстраиваться взаимодействие между нашими странами.
Здесь необходимы договоренности, в том числе на правительственном и высшем государственном уровне. Такие контакты у России и Китая существуют, поэтому, на мой взгляд, у России есть возможности добиваться значимого влияния на формирование международных подходов в этой сфере.