«Мы все умрем, но это не точно» Развитие ИИ предложили замедлить. Почему эта идея мало кому понравилась и при чем здесь Трамп?

Недавняя публикация письма главы одной из ведущих мировых компаний в сфере ИИ с призывом затормозить развитие искусственного интеллекта ради того, чтобы не выпустить технологию из-под контроля, вызвала большой ажиотаж, но не внесла ясности даже в вопросе личных целей самого автора. На кону стоят слишком большие деньги, чтобы по умолчанию верить в альтруизм Дарио Амодеи из Antropic, о котором идет речь. Предупреждения о рисках стремительного развития ИИ для мировой экономики и даже о том, что под угрозой из-за него скоро может оказаться само существование человечества, звучат уже не первый год, но в 2026-м эту тему стали регулярно и публично обсуждать такие лидеры отрасли, как Илон Маск, Сэм Альтман и Амодеи, которые, к слову, не особо ладят друг с другом. В стороне, разумеется, не остается и президент США Дональд Трамп, имеющий, как водится, свой особый взгляд и по поводу происходящего вокруг ИИ. Ситуация накаляется, рынки, разогретые ИИ-бумом, шатаются. О том, зачем миллиардеры гипнотизируют инвесторов разговорами о конце света, пока старый мир и без наступления будущего в духе «Терминатора» меняется на глазах, — в материале «Ленты.ру».

В своем нашумевшем посте Амодеи, выразив уверенность в том, что ИИ способен в ближайшие 5-10 лет победить большинство болезней, ускорить экономический рост, «создать мир всеобщего изобилия и новых возможностей, а также дать толчок возрождению демократии», в то же время в очередной раз признал, что развитие технологии сопряжено с рисками, к которым, учитывая ее колоссальную мощь, стоит относиться весьма серьезно. К их числу топ-менеджер отнес не только угрозы кибератак, биотерроризма и возможных экономических потрясений, но и то, что «ситуацию может усугубить "гонка наперегонки" и стремление к снижению стандартов ради коммерческой выгоды».

В свете этого Амодеи пришел к выводу, что одних только инвестиций в предотвращение угроз уже недостаточно и нужно вплотную заняться контролем над темпами наращивания возможностей ИИ, чтобы меры безопасности успевали за его развитием. Указав, что «прогресс все равно будет казаться стремительным», он выступил за то, чтобы замедлить темпы совершенствования ИИ-моделей и «с умом распорядиться выигранным временем».

Что же это подразумевает? На первом этапе глава Antropic предлагает пригласить во все ведущие ИИ-компании сторонних экспертов, которые будут следить за обеспечением правил безопасности и информировать о произошедших инцидентах в ходе разработки ИИ-моделей и их тестирования. По словам Амодеи, Anthropic уже приняла решение о допуске таких экспертов с теми же доступами, что и у сотрудников компании. Другие ИИ-корпорации он призвал последовать этому примеру, а власти — сделать сторонний контроль обязательным для регулирования отрасли.

Второй и третий этапы предложенной топ-менеджером программы предполагают масштабирование усилий по созданию общих стандартов безопасности, а также ограничений темпов бесконтрольного развития ИИ сначала в названных им демократических странах, а затем в авторитарных, под которыми американец подразумевает прежде всего Китай.

Пока Амодеи публично размышляет о необходимости сплотиться, чтобы спасти интернет и будущее Земли от его же детища, Antropic выпустила аналитический обзор Scenarios for our Economic Future, в котором специалисты компании попытались оценить влияние своих технологий на рынок труда к 2030 году и так или иначе пришли к неутешительным выводам.

Наиболее жесткая модель Anthropic через пять лет допускает в США общенациональную безработицу примерно в полтора раза выше той, к которой привел кризис 2008-2009 годов, а среди «работников умственного труда», или белых воротничков, саму концепцию которых в ИИ-индустрии уже называют устаревшей и навязанной маркетологами Microsoft, в поисках работы окажется почти каждый четвертый (24 процента), что эквивалентно показателям времен американской Великой депрессии. При базовом же сценарии зарплаты таких людей опустятся примерно на 11,5 процента ниже уровней, на которых были бы без ИИ, а безработица достигнет 17,9 процента.

Предсказуемо выходит, что выгоду от ИИ-бума получит только капитал и уж точно не офисные сотрудники, которых в самом позитивном варианте, то есть если их не заменят ИИ-моделью, ждет бесконечная гонка за повышение эффективности, растущей при использовании ИИ лишь вместе с уровнями загрузки и вовлеченности персонала, показывают результаты исследований.

На фоне этого рассуждения аналитиков Anthropic о том, что программистам просто надо переучиться на электриков и все будет как прежде, по меньшей мере сомнительны: выброшенные из офисов сотрудники в случае реализации сценария перестанут тратить деньги и бизнесу станет невыгодно выпускать на рынок прежние объемы товаров. Таким образом, ждут в мире в ближайшие годы. Таким образом, социальный оптимизм Anthropic при имеющихся вводных выглядит наигранным и уверенности в будущем действительно не сулит.

Подобных проблем ждут и ведущие мировые эксперты в области финансов и технологий, которые, проанализировав сценарии того, как искусственный интеллект может перевернуть мировую экономику, назвали вероятной причиной конца современной цивилизации подрыв налоговой системы. В материале об этом авторы Bloomberg едко отмечали, что «сценарий апокалипсиса, связанный с ИИ, может не иметь ничего общего с роботами-убийцами или компьютерами, обретшими разум».

С учетом того, что еще со времен первой промышленной революции две трети госсредств США обеспечивают налоги с граждан, а ИИ грозит избавить рынок от «целых категорий рабочих мест для "белых воротничков" по ​​всему миру», обвал доходов населения вкупе с резким ростом трат на его содержание способен нанести двойной удар по правительствам: налоговые поступления от потерявших места сотрудников сократятся, а расходы на пособия и переподготовку безработных вырастут, что может привести к «десятилетиям нестабильности» из-за новой «паузы Энгельса».

Указанный термин отсылает к работе соратника Карла Маркса «Положение рабочего класса в Англии», во времена написания которой производительность труда в Великобритании резко выросла благодаря внедрению таких технологий, как паровая машина, тогда как реальная заработная плата десятилетиями оставалась на прежнем уровне, а условия жизни зачастую ухудшались.

В общем, прогнозы о том, что людям предстоит больше работать за меньшие деньги, не кажутся фантастикой. При этом, напоминают журналисты, промышленную революцию, с которой любят сравнивать ИИ-бум сторонники искусственного интеллекта, сопровождали десятилетия политических потрясений, связанных не столько с самими технологическими прорывами, сколько с тем, что экономические изменения происходили быстрее, чем люди и правительства успевали к этому адаптироваться.

Амодеи обратился к ведущим мировым технологическим компаниям с предложением о сотрудничестве в этой сфере и уже получил поддержку от ряда «капитанов» ИИ-индустрии, включая Маска, который написал в X, что глава Antropic прав, и Сэма Альтмана из OpenAI. Последний, отметив, что речь идет не об «остановке», а о том, чтобы прогресс продолжился, но шел медленнее, фактически воспользовался инфоповодом для того, чтобы объявить об отказе от выхода разработчика ChatGPT на биржу в 2026 году. И такое сочетание не могло не вызвать у многочисленных представителей рынка закономерных подозрений.

Дело в том, что репутация Альтмана, которого работавшие с ним сотрудники характеризуют как человека, с одной стороны стремящегося понравиться всем при любом взаимодействии, а с другой — «почти социопатически безразличного к последствиям, которые могут возникнуть в результате обмана», не позволяет заподозрить его не то что в альтруизме, а даже в нацеленности на некое общее благо, лежащее за пределами финансовых показателей и бесконечного внимания к собственной персоне.

В частности, Альтман за последние месяцы сначала поднял на смех в суде аргументы Маска о том, что тот не хочет, чтобы «все закончилось» как в «Терминаторе», а затем заявил, что в гонке технологий искусственного интеллекта достигнут этап, напоминающий сюжеты научно-фантастических романов, и «это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира». «Я намерен сделать все возможное, чтобы противостоять таким прогнозам и не допустить их воплощения в жизнь», — отмечал Альтман в связи с мрачными сценариями развития будущего с ИИ, не уточняя, что он планирует предпринимать.

О том, что в OpenAI стали склоняться к тому, чтобы отложить IPO, сообщалось еще в июне, когда выяснилось, что бизнес-консультанты предложили либо разместить акции в 2026-м, но с меньшей оценкой, либо сделать это позже, достигая желаемого уровня в триллион долларов, на котором как гендиректор компании настаивает Альтман. Кстати, к первичному размещению акций готовится и Antropic. И обе компании идут, что называется, ноздря в ноздрю.

На фоне этого тот факт, что лидеры рынка единодушно выступили за то, чтобы притормозить развитие ИИ (к упомянутым спикерам присоединился также Демис Хассабис из DeepMind от Alphabet, а Билл Гейтс заявил, что «это очень серьезно» и нужно заранее оценить возможные последствия развития ИИ), восторга в отрасли, мягко говоря, не вызвал. Скорость же, с которой крупнейшие разработчики объединились вокруг «революционного» призыва Амодеи, только усилила споры на Уолл-стрит по поводу их мотивов.

Еще до публикации воззвания Амодеи инвесторов призывали скептически относиться к заявлениям архитекторов ИИ-гонки о том, что они собираются защитить мир от темной стороны своих разработок. Аналитики отмечали в связи с этим, что «кажется, они слишком усердно убеждают» в грозящей всем опасности.

Теперь же рынок в условиях, когда любая пауза в развитии ИИ может негативно сказаться на настроениях инвесторов, да и самим компаниям явно есть что терять, обрушил на «капитанов» индустрии всю мощь своего скепсиса. Так, венчурный инвестор Грант Хаммер высказал мнение о том, что конкуренция со стороны моделей с открытым исходным кодом (open-source) давит на валовую маржинальность разработчиков, а гонка капитальных расходов становится слишком дорогой, из-за чего крупнейшим игрокам выгодно добиваться более жесткого регулирования, ограничив действие указанных факторов «с показной заботой о всеобщем благе».

В свою очередь, инвестор Майкл Бьюрри, который много раз предсказывал обвалы на американском фондовом рынке и известен как прототип героя фильма «Игра на понижение», прямо назвал позицию руководства OpenAI и Anthropic корыстной и связанной с саморекламой. С его точки зрения, обе компании, которые планируют в ближайшее время выйти на биржу с триллионными оценками, говоря о страхе перед апокалиптическим сценарием развития технологии, по сути, набивают себе цену. «Для IPO нужны шумиха и самореклама; заявления в духе "мы настолько хороши, что это может стать опасным" — это и есть шумиха и самореклама», — подчеркнул Бьюрри.

Инвестор также заострил внимание на том, что так называемые Большие языковые модели (LLM) не являются полноценным искусственным интеллектом и не достигнут уровня AGI (сильного искусственного интеллекта), а значит, по его словам, и замедлять здесь нечего. Бьюрри также предположил, что призывы к замедлению служат прикрытием для реального снижения темпов роста ИИ-индустрии, и упомянул о рисках формирования нового финансового пузыря, об отказе замечать которые все активнее предостерегают аналитики.

Вторят этим прогнозам и в Deutsche Bank, представители которого задались вопросом, не стали ли прозвучавшие заявления первым признаком того, что беспрецедентный инвестиционный цикл в ИИ начинает выдыхаться. Предупреждения о рисках ИИ могут сигнализировать о завершении периода взрывного роста вычислительных мощностей и инвестиций в ИИ-инфраструктуру, согласилась Кэтлин Брукс из брокерской компании XTB.

При этом есть и эксперты, которые видят в ставшей совместной инициативе конкурирующих компаний действия вопреки своим сиюминутным финансовым интересам и свидетельство необходимости единого международного регулирования ИИ, которое «должно быть разработано не только бизнесом, но и с непосредственным участием ведущих мировых научных и экспертных организаций».

Дальше всех в риторике, как обычно в последнее время, пошел действующий американский президент, заявивший, что у его администрации есть огромная регуляторная власть в сфере ИИ, благодаря которой удалось удержать от совершения плохих поступков «всех», включая Амодеи, который, по словам Трампа, не ладящего с Antropic со времен начала иранского конфликта, «сейчас притворяется "идеальным маленьким ангелочком"».

Комментируя идею о замедлении развития ИИ, глава США в целом повторил ранее озвученные им тезисы о лидерстве Соединенных Штатов в этих вопросах и превосходстве страны над КНР. Трамп предупредил, что против ИИ и центров обработки данных существует «безумный заговор», которому, с его точки зрения, рады только в Китае.

Переживания относительно того, что развитие технологии может представлять угрозу для существования человечества, американский лидер назвал безосновательными, найдя в этом вопросе поддержку у другого скептика в отношении апокалиптических прогнозов — гендиректора Nvidia Дженсена Хуанга, возмущенно интересующегося у тех, кто испытывает такие опасения: «Уничтожат ли калькуляторы математику?»

Когда Трамп 14 сентября дозвонился выступавшему в этот момент на сцене форума All-in в Лос-Анджелесе Хуангу, тот перевел звонок на громкую связь, после чего президент США во всеуслышание заявил, что «роботы не захватят власть».

«Люди, которые говорят, что ИИ собирается уничтожить мир и что центры обработки данных вредны для вашего района, — это те же люди, которые совсем недавно говорили, что мир будет уничтожен из-за "изменения климата". Эта афера у них так и не сработала, и теперь они взялись за следующую», — продолжил развивать тему Трамп.

Что касается Китая, с которым, согласно плану Амодеи, предлагается договариваться об ограничениях в сфере ИИ лишь на третьей, завершающей ступени реализации, то и там косвенно согласились с беспокоящимся только о лидерстве Америки и своем, конечно, Трампом. Разжигание страхов, конфронтация и жестокая конкуренция только сорвут процесс глобального регулирования ИИ и никому не пойдут на пользу, заявил официальный представитель МИД Го Цзякунь. Он подчеркнул, что «все стороны должны совместно содействовать открытому и инклюзивному развитию ИИ во благо людей».

«Следует взять в свои руки инициативу, укреплять сотрудничество в сфере ИИ, поддерживать развитие открытого исходного кода в духе сотрудничества и совместного использования», — Нью-Дели председатель КНР Си Цзиньпин, анонсировавший создание Китаем международного центра сотрудничества по применению искусственного интеллекта для стран БРИКС.

Страх, как правило, не только заразителен, но и иррационален. Трудно бояться того, что, во-первых, уже случилось, а во-вторых — развивается в рамках в целом доступного для понимания сюжета. Именно поэтому поздно бояться увольнений из-за ИИ, которые идут уже не первый год и объясняются «определенными успехами» в использовании искусственного интеллекта. К тому же, когда выхлоп от этих «успехов» улетучивается, бизнес так же легко «сбрасывает настройки» в пользу тенденции обратного найма выставленных на рынок труда сотрудников.

Поздно бояться и причинения ИИ вреда экологии, поскольку сами же компании из этой сферы, стремительно став одними из самых влиятельных бизнес-проектов в мире, не раскрывают данные о выбросах парниковых газов и не публикуют отчеты об устойчивом развитии, что еще несколько лет назад было на Западе немыслимым.

И хотя сейчас непросто оценить точные данные о масштабах ущерба для экологии, который наносит лихорадочное строительство дата-центров, взвинчивающее зарплаты электриков и плотников, в то время как такие профессии, как оператор кол-центра в нынешнем виде, судя по всему, доживают последние годы, «очевидно, что объемы выбросов в этом секторе колоссальны», пишет Bloomberg. Достаточно сказать, что одни только новые газовые электростанции, строящиеся в США для обеспечения работы дата-центров, способны генерировать столько же вредных выбросов, сколько вся Австралия, добавляют журналисты.

При этом, помимо экономических потрясений, о перспективах которых сказано достаточно, опасения из-за ИИ связываются сегодня как с достаточно абстрактными, хотя и важными понятиями, так и с вполне весомыми перспективами катастроф. Так, помощник президента России Андрей Фурсенко напомнил о недавно появившемся письме ведущих математиков мира, увидевших проблему ИИ в том, что технология моментально дает готовый ответ, что лишает человечество крайне важного для него процесса познания.

Что же касается второго аспекта, то, как пишет The Wall Street Journal, разработчики ИИ и эксперты по безопасности опасаются не столько того, что реальностью станут фильмы о «Терминаторе», когда способные копировать и совершенствовать себя высокоинтеллектуальные ИИ-агенты начнут преследовать собственные цели и в процессе уничтожат человечество, сколько утраты контроля и злоупотреблений со стороны человека, который начнет использовать ИИ злонамеренно, например создавая смертоносные вирусы или организуя массовые кибератаки, выводящие из строя объекты инфраструктуры. Сценарии, при которых ИИ-модели будут способны рассматривать убийства как необходимый шаг на пути к достижению своих целей, исключать тоже нельзя, отмечают авторы WSJ.

На фоне этого отдельным жанром в индустрии в этом году стали прощальные письма «мужчин на грани нервного срыва» — видных представителей ИИ-сферы, уходящих из нее из-за опасений катастрофы.

Так, в первой половине сентября 27-летний математик из Anthropic Джейкоб Коксон объявил об увольнении в связи с боязнью того, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата». По его словам, уже к концу следующего года ИИ-модели «могут выйти из-под контроля и уничтожить человечество», на фоне чего исследователь решил отказаться от прежних проектов и заняться изучением поэзии.

Когда об этом стало известно, Эван Хьюбингер, который в Anthropic руководит исследованиями в области управления будущими ИИ-системами и контроля за ними, развил послание Коксона в духе «мы все умрем, но это не точно», написав в X, что они с коллегами «всерьез полагают, что ИИ может погубить все человечество». Хьюбингер оценил вероятность такого исхода в ближайшее десятилетие более чем в 10 процентов и отметил, что компания «прикладывает максимум усилий», однако у нее пока нет плана решения проблемы «согласования суперинтеллекта» и она не движется к этой цели с «четким пониманием дальнейших шагов».

До Коксона много шума наделало похожее заявление его бывшего коллеги — главы исследовательского подразделения по безопасности ИИ Мринанка Шармы, который тоже решил заняться изучением поэзии, а также «посвятить себя практике смелой речи». Увольняясь, он предупредил, что «мир в опасности».