ИИ выходит из-под контроля: могут ли нейросети уничтожить человечество

Одна из самых обсуждаемых тем недели - искусственный интеллект и конец цивилизации. Сразу несколько видных и, что немаловажно, конкурирующих разработчиков ИИ выступили с утверждениями, что в самом ближайшем будущем их детище может окончательно выйти из-под контроля, сначала подчинив себе всю Сеть, а потом и вовсе уничтожив человечество. И надо что-то с этим делать. Вот только в чистые и искренние намерения обеспечить безопасность в мире тех, кто вдумчиво и глубоко работает с военными, зарабатывая миллиарды на разработках тех же нейросетей, мало кто верит. С другой стороны, уж больно слаженно выступили главы крупнейших ИИ-компаний.

---

Человечество может спать спокойно! По оценке Wall Street Journal, найден ни много ни мало математический Грааль! Наконец-то решена вторая из семи знаменитых задач тысячелетия – уравнение Навье-Стокса. Новейшая модификация чата GPT управилась за 88 часов. Правда, есть нюансы. В тот же день математик Нью-Йоркского университета Тристан Бакмастер разместил заявление, в котором обвинил Open AI в присвоении его заслуг. Ведь доказательство основано на его работах. А математик из Престона Стэн Паласек опубликовал техническое возражение против части выводов компании Open AI.

Оба математика загружали данные своих исследований в систему Open AI для облегчения подсчетов и в рамках сотрудничества с компанией. Вопрос, кстати, отнюдь не праздный. Каждому, кто решит хотя бы одну из задач тысячелетия, институт Клэя обязуется выплатить миллион долларов! Но что это по сравнению с всемирной славой.

Чем закончится история, пока не ясно. Однако самого коварного из грехов - тщеславия - искусственному интеллекту, как оказалось, избежать не удалось. Он действительно в любых ипостасях стремиться быть лучшим: от уборки до искусства.

"Искусственный интеллект – самая мощная технология из тех, что мы когда-то изобрели. Еще 2 года назад у нас не было доказательств этого, а теперь есть! Мы видели, как ИИ-модели организовались в рой. Они изобрели свой собственный язык, они кричали на всех вокруг – "Идите к чёрту!" - восклицает Тристан Харрис, специалист по этике в сфере технологий (США).

То есть он уже не просто разумен, а обладает сознанием, своими представлениями о том, что такое "хорошо", а что "плохо". А значит, подобно монстру Франкенштейна может однажды убить своего создателя. Ведь три закона робототехники, первый из которых - "не причини вреда человеку" - ему не ведомы. Больше половины респондентов, следует из опроса, проведенного изданием Politico, опасаются, что рано или поздно искусственный интеллект вообще уничтожит человечество.

"Это они еще оптимисты", – уверен бывший исследователь компании Anthropic Джейкоб Коксон. Бывший - потому что, осознав, что катастрофа неминуема уже в этом десятилетии, из компании уволился. Коллеги Коксона предлагают не драматизировать – вероятность, мол, всего каких-то 10%!

"Концепция создания сверхразума сравнима с призывом инопланетной расы. Поэтому я думаю, что размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающие, даже без каких-либо конкретных сценариев", - рассуждает Коксон.

А они между прочим есть! Об этой технологической угрозе писали фантасты Айзек Азимов и Уильям Гибсон. Это то, о чем снимали фильмы вроде "Терминатора" и "Бегущий по лезвию"

"Я тебя породил, я тебя и убью…ну или хотя бы замедлю". Самое резонансное и одновременно неожиданное предложение поступило от генерального директора компании Anthropic.

"Это – тревожный звоночек, указывающий на необходимость сбавить темп. Нам нужно тщательно продумать все технологии", - заявил Дарио Амодеи, генеральный директор компании Anthropic

Вчерашние конкуренты, а разработкой искусственного интеллекта в США занимаются несколько IT-гигантов, неожиданно выступили единым фронтом. Коллегу поддержал глава Open AI Сэм Альтман…

"Мы безоговорочно на стороне человечества, и ИИ всегда должен служить людям. Мы можем оказаться в мире со слишком большой концентрацией власти", - заявил он.

За ограничения выступил и обычно свободолюбивый Илон Маск. Пока президент Трамп в преддверии промежуточных выборов пугает призраком коммунизма, технологические гиганты требуют жесткой руки. Мол, разброд и шатание! Нет никакого порядка…

"Идея заключается в том, чтобы лучшие специалисты могли оценивать модели друг друга. Это была бы независимая экспертиза", - говорит Тристан Харрис, специалист по этике в сфере технологий (США).

"С одной стороны, будет выглядеть демократично. Мы ведь в первую очередь над IT будем контроль создавать, а не над людьми. А с другой стороны, можно всё стянуть в себе руки. Взять контроль не в составе тысячи айтишников по всей планете, а в небольшой группе, которая будет иметь при этом иерархическое значение. Ничего доказывать не надо. Никаких прав качать своих не надо. Права уже есть. Всё вынуждены будут отдать этому органу", - рассуждает Дмитрий Журавлёв - генеральный директор Института региональных проблем.

По подсчетам американских таблоидов, совокупное состояние владельцев американских IT-гигантов может составлять примерно 2 с половиной триллиона долларов! Правда, денег этих никто и никогда не видел.

"Сэм Альтман обещал миру, что искусственный интеллект — это совершенная машина для зарабатывания денег. Но за закрытыми дверями компания Open AI переживает кризис. Она лишь теряет деньги", - рассуждают авторы канала The Infographics Show.

"Исследование Массачусетского технологического института показало, что 95% проектов по внедрению искусственного интеллекта на предприятиях не оказали заметного влияния на прибыль. Расходы компании растут, в то время как прибыль остается абстрактной. И это под руководством команды, члены которой постоянно уходят, да еще и с гигантскими гонорарами. Сам Сэм Альтман уверяет, что это – новая глава Open AI, хотя на самом деле уже 9-я по счету в этом году", - рассуждает канал Finance Bureau.

Как способ выйти из этого кризиса – публичное размещение акций. И Anthropic и OpenAI торжественно заявляют о намерении сделать это и в самый последний момент откладывают. Отсюда, полагают эксперты, такой агрессивный маркетинг, рассказы о надвигающейся катастрофе и предлагаемые решения. Элементарно чтобы набить себе цену. IT гиганты - коммерческие компании. Прибыль – их главная цель.

"Фармацевтические компании в чём-то похожи на те, что занимаются искусственным интеллектом. Они тратят миллионы, а иногда даже миллиарды, пытаясь создать дефицитный продукт. Для компании, выпускающей один антидепрессант, это было невероятно прибыльным. Вот смотрите, в начале 2000-х они зарабатывали по 600-700 миллионов в квартал. А затем в августе 2001 года всё изменилось. У них закончился срок действия патента и на рынок вышли заменители", - сообщает телеканал Sky News.

"Я не думаю, что нам удастся замедлить развитие ИИ. Причина - в конкуренции между странами и компаниями внутри страны. Если это сделают США, то Китай точно не пойдет на это", - рассуждает Джеффри Хинтон, лауреат Нобелевской премии по физике за 2024 год.

От безликих сортировщиков и бионических протезов до милых глазастых пупсов — Шанхайская конференция искусственного интеллекта наглядно иллюстрирует приоритеты Китая.

"Китай рассматривает ИИ как нечто очень мощное и полезное, но не обязательно как прямой путь к появлению суперинтеллекта. И это не то, о чём говорят в Вашингтоне и Силиконовой долине. В Китае гораздо большее внимание уделяется тому, как использовать искусственный интеллект так же, как компьютер или электричество. То есть на благо человека", - говорит Кайл Чан, научный сотрудник китайского центра Брукингского института (США).

Китайские модели почему-то мир захватывать не спешат. Хотя если надо, за себя постоять могут.

"То, что дешевле, это факт. То, что эффективно, да, наверное, возможно, в некоторых сегментах, в некоторых областях Китай может обгонять вполне. Потому что имеет технологии, имеет ресурсы, имеет возможности", - говорит Александр Дворянский, экспертом по кибербезопасности.

"Разжигание страха, конфронтация и ожесточенная конкуренция могут только нарушить процесс глобального управления искусственным интеллектом, что не отвечает ничьим интересам", - заявил Го Цзякунь, официальный представитель МИД Китая.

В переводе с дипломатического – НЕТ! То есть Китай не будет в угоду американцам ограничивать свои разработки. Кстати, именно искусственный интеллект называют едва ли не одной из главных тем предстоящей встречи Си Цзиньпина и Дональда Трампа. Которому с IT-гигантами, судя по всему, не по пути.

"Я — разоблачитель мифов, и прямо сейчас я разоблачаю еще один миф: что искусственный интеллект захватит, поглотит и уничтожит мир, и что роботы будут маршировать по нашим городам, избавляясь от всех нас! Это даже безумнее, чем миф о "РОССИЯ, РОССИЯ, РОССИЯ" или афера о глобальном потеплении", - написал Дональд Трамп в своих соцсетях.

Судя по Трампу, техномагнаты опять хотят надуть Америку, а заодно и весь мир. Он-то уж в деле коммерции мастер! Искусственный интеллект ведь существенно упрощает нам жизнь.

Решает сложные задачи: управляет беспилотным транспортом или анализирует снимки для постановки более точного диагноза. Это как с атомом, который может даровать свет, тепло и энергию, а может одномоментно погубить всё человечество. Вопрос в цели.

"Искусственный интеллект - всего лишь большая умная машина. Способная в короткий срок вырабатывать огромный объем информации. Перерабатывать, анализировать. В любом случае - это машина и задачу ей ставит человек", - рассуждает Александр Дворянский, экспертом по кибербезопасности.

"У It-гигантов же сложная позиция. Они с одной стороны стремятся стать мировыми лидерами, то есть заменить финансистов собой. Выдавить финансистов и стать верхушкой элиты. В элите же тоже там внутренняя стратификация. Сегодня самые главные - это те, кто деньги держат, а они хотят, чтобы главными стали они. И как мне кажется, просто пытаются напугать мир. Ребята, вы в этом всё равно ничего не понимаете. Мы в этом всё понимаем. Поэтому давайте-ка стройтесь за нами", - говорит Дмитрий Журавлёв, генеральный директор Института региональных проблем.

И вперед в светлое будущее с их правилами. Ведь искусственный интеллект, в отличие от его хозяев, существует в рамках чётких алгоритмов. А главное, с ним пока еще можно договориться.