ИИ заставил США и Китай искать точки соприкосновения

Идея прозвучала на встречах американских и китайских представителей в Нью-Йорке перед будущими переговорами лидеров двух стран. Речь не идет о совместной разработке технологий или обмене наработками. Предлагается создать своего рода «линию связи», которая позволит сторонам быстрее обмениваться информацией, если развитие или применение ИИ приведет к ситуации, требующей внимания на государственном уровне.

Пока это только предложение, а не готовое соглашение. Не определено ни то, какие именно события будут считаться инцидентами, ни кто и в каком формате должен будет обмениваться информацией. Но сама идея появилась не случайно: по мере того как ИИ-модели становятся мощнее, разговор о безопасности постепенно выходит за пределы лабораторий и технологических компаний.

Кто отвечает за новый класс рисков

Предупреждения о возможных последствиях развития мощных ИИ-систем звучат уже несколько лет. В 2023 году руководители крупнейших ИИ-компаний и ведущие исследователи подписали заявление, в котором назвали снижение рисков от ИИ глобальным приоритетом. Среди подписантов были глава OpenAI Сэм Альтман, руководитель Anthropic Дарио Амодеи, глава Google DeepMind Демис Хассабис, а также исследователи Джеффри Хинтон и Йошуа Бенджио.

При этом в самой технологической отрасли нет единого взгляда на то, чего именно стоит опасаться больше всего. Одни эксперты говорят о технических ограничениях моделей и возможности потери контроля над автономными системами. Другие обращают внимание на то, кто получит доступ к наиболее мощным технологиям и как они могут использоваться в политической и военной конкуренции.

Дарио Амодеи, глава Anthropic, один из самых заметных участников этой дискуссии, отдельно говорит о геополитической стороне вопроса. В своих публикациях он подчеркивает, что развитие ИИ связано не только с технологическим прогрессом, но и с конкуренцией государств. В частности, он предупреждает о рисках, которые могут возникнуть, если передовые системы окажутся в распоряжении стран с иными политическими институтами. При этом Амодеи выступает не за замедление развития ИИ как такового, а за сочетание технологического лидерства с более строгим контролем рисков.

Сэм Альтман также неоднократно говорил о необходимости международного подхода к управлению развитием ИИ. По его мнению, по мере роста возможностей моделей должны появляться правила, которые позволят снизить вероятность опасного применения технологии.

Конкуренция остается частью уравнения

Инициатива США появилась в момент, когда Вашингтон и Пекин одновременно развивают собственные ИИ-технологии и ограничивают доступ друг друга к критически важной инфраструктуре. США связывают экспортные ограничения на передовые чипы и оборудование с вопросами национальной безопасности. Китай считает такие меры попыткой затормозить развитие собственной технологической отрасли.

Получается парадоксальная ситуация: страны конкурируют за лидерство в одной из самых важных технологий ближайших лет, но одновременно вынуждены обсуждать общие правила безопасности. Похожая ситуация уже существует в других областях, где цена ошибки слишком высока и сторонам нужен канал связи на случай кризиса.

Пока неизвестно, станет ли предложение США основой для реального международного механизма или останется дипломатической инициативой. Но сам факт появления такой идеи показывает: вопросы безопасности ИИ постепенно переходят из разговоров о далеком будущем в практическую область. Следующим этапом для государств и компаний становится не только создание новых моделей, но и понимание того, как управлять последствиями их применения.