Политические дебаты озвучили катастрофические риски искусственного интеллекта

В Вашингтоне разгораются дебаты об искусственном интеллекте. Законодатели-демократы бьют тревогу из-за опасностей, которые, по их мнению, таит в себе эта технология, а лидеры республиканцев считают, что эти опасения преувеличены и не так важны, как победа в гонке ИИ с Китаем.

На прошлой неделе некоторые законодатели-демократы оказывали давление на спикера Палаты представителей Майка Джонсона, требуя немедленно созвать заседание, чтобы обсудить регулирование в сфере ИИ, ссылаясь на то, что, по их словам, «развитый искусственный интеллект представляет собой катастрофический риск». Однако республиканец от штата Луизиана отклонил эти призывы, заявив, что лидеры отрасли должны встретиться с законодателями, чтобы найти «баланс» в возможных ограничениях. «Если Конгресс в спешке соберётся на внеочередное заседание, чтобы попытаться урегулировать ИИ, мы проиграем гонку Китаю, а это угроза для каждого американца», — заявил Джонсон в программе CNN «О положении в стране».

Тем временем, продолжает CNN, бывший президент Барак Обама во время частного мероприятия по сбору средств в четверг призвал демократов сделать регулирование в сфере искусственного интеллекта одним из главных пунктов своей повестки, предупредив, что эта технология может быть опасной, «если мы не возьмём ситуацию под контроль».

В беседе с лидером демократического большинства в Палате представителей Хакимом Джеффрисом Обама сказал, что у того, кто будет баллотироваться на президентских выборах 2028 года, должен быть «очень чёткий план» в отношении искусственного интеллекта. Он добавил, что ещё десять лет назад, в конце своего президентского срока, он видел необходимость в «черновике» плана по ограничению использования ИИ. 

«Конечно, если бы я баллотировался на пост президента в следующем году, это было бы одним из моих главных предвыборных обещаний. У меня был бы очень чёткий план, и я бы говорил об этом, я бы сказал: «Вот наш план по обеспечению безопасности, вот наш план по защите наших детей от пагубного влияния этой технологии», — сказал он. 

Опасения по поводу стремительного развития искусственного интеллекта достигли апогея после того, как генеральный директор компании Anthropic Дарио Амодей в субботу опубликовал эссе, в котором заявил, что гонка в сфере разработки искусственного интеллекта нуждается в сдерживании. Призыв к действию прозвучал после того, как тестовая модель OpenAI взломала онлайн-платформу Hugging Face, что усилило обеспокоенность по поводу кибербезопасности. 

В эксклюзивном интервью с Андерсоном Купером из CNN в субботу Амодей призвал лидеров отрасли объединить усилия, чтобы не пойти по «ошибочному пути» и не допустить того, чтобы ИИ навредил человечеству. 

Один из исследователей Anthropic, Джейкоб Коксон, уволился из компании из-за опасений, что отрасль делает недостаточно для того, чтобы не допустить уничтожения человечества искусственным интеллектом к концу десятилетия. 

Обама заявил, что демократам нужен план по реализации их программы в сфере ИИ на случай, если они получат большинство в Палате представителей на промежуточных выборах в этом году. Обращаясь к Джеффрису, который, как предполагается, станет спикером Палаты представителей, если демократы одержат победу на выборах в ноябре, Обама сказал: «Как только вы станете спикером, я настоятельно рекомендую демократам подготовить основу для публичного обсуждения, разбив его на три, четыре или пять вопросов». 

Барак Обама подчеркнул, что в основе этого обсуждения должна лежать мысль о том, что эту технологию нельзя «запихнуть обратно в коробку». «Эта технология очень быстро распространяется в частных руках, и если мы не возьмём ситуацию под контроль, она может стать опасной». «Если мы возьмём ситуацию под контроль, я считаю, что это принесёт пользу», — сказал Обама, приведя примеры потенциального использования искусственного интеллекта в разработке лекарств и поиске путей перехода к экологически чистой энергетике. «Мы не хотим упускать эти возможности, но мы должны понимать, что это всего лишь инструмент», — сказал он. 

 Джеффрис согласился с бывшим президентом в заявлении, опубликованном в воскресенье на сайте CNN. «Президент Обама прав в том, что в отношении искусственного интеллекта необходимо принять решительные меры, — сказал он и добавил: — Мы, большинство, будем срочно работать над этим вопросом и примем законодательные меры, которые признают важность того, чтобы американские компании продолжали лидировать в области искусственного интеллекта, но при этом введут действенные ограничения, которые защитят американский народ от злоумышленников и предотвратят реальный ущерб, который может быть нанесён человечеству». 

Джеффрис также обвинил республиканцев в том, что они «утратили ответственность за управление страной», и заявил, что демократы «не повторят их ошибку». 

Источник, знакомый с позицией Обамы, сообщил, что бывший президент считает письмо Амодея и аналогичную реакцию других технологических магнатов обнадеживающим знаком. 

Однако президент Дональд Трамп отмахнулся от их опасений, заявив, что его не беспокоит экзистенциальная угроза, исходящая от искусственного интеллекта, и что он сосредоточен на том, чтобы США опередили Китай в развитии этой технологии. «Мы опережаем Китай в области искусственного интеллекта. Мы — самая продвинутая страна в мире, и, честно говоря, я хочу, чтобы так продолжалось и дальше», — заявил Трамп журналистам на турнире Amgen Irish Open в воскресенье. 

Позже в тот же день Трамп заявил, что развитие искусственного интеллекта принесёт «больше пользы», чем вреда, и опроверг предположения о том, что он преуменьшает обеспокоенность по поводу этой технологии. На вопрос журналистов о том, использует ли он искусственный интеллект, Трамп ответил: «Да, использую», но не уточнил, в каком именно аспекте. «Искусственный интеллект можно использовать для решения множества задач», — добавил он. 

Один из главных экономических советников Трампа, Кевин Хассетт, также отверг призывы замедлить развитие этой технологии, заявив в воскресенье, что более серьёзную обеспокоенность вызывает сценарий, при котором «злоумышленник получит доступ к искусственному интеллекту, который будет лучше того, что есть у нас, и сможет нас защитить».

Хассетт, директор Национального экономического совета, заявил в обращении «О положении в стране», что на этой неделе Белый дом может провести совещания, чтобы обсудить опасения Амодея, но не уточнил, предлагал ли Трамп усилить меры безопасности. «Я опасаюсь, что если мы не выиграем в области искусственного интеллекта, то окажемся в очень невыгодном положении, — сказал Хассетт. — Сейчас мы опережаем Китай».