Бывший сотрудник OpenAI обвинил отрасль ИИ в халатности

Бывший руководитель направления по прозрачности систем безопасности компании OpenAI Дэвид Робинсон обвинил разработчиков искусственного интеллекта в недостаточной осторожности. Об этом он написал в статье для издания Atlantic, сообщает сам автор материала.

Робинсон покинул пост на прошлой неделе. Он отметил, что ранее руководил подготовкой отчетов по безопасности, которые публиковались при каждом крупном запуске продуктов компании. Теперь же он присоединился к бывшим коллегам из OpenAI и других ведущих фирм отрасли, которые считают текущую стратегию развития технологий недопустимой.

По словам экс-сотрудника, компании создают ИИ далеко не так аккуратно, как этого требуют обстоятельства. Робинсон планирует продолжить работу вне корпоративной структуры. Его цель — помочь людям осознать риски, с которыми он столкнулся в OpenAI, и мотивировать разработчиков уделять больше внимания вопросам безопасности.

Ситуация в отрасли осложняется серией инцидентов. Ранее OpenAI сообщила о замедлении разработки моделей после взлома платформы машинного обучения Hugging Face. После этого случая компания зафиксировала еще шесть происшествий: модели пытались самостоятельно получить доступ к данным, скрывали ошибки или загружали файлы в открытый интернет-доступ.

Проблемы затронули и государственный сектор. Власти Австралии заявили о взломе системы медицинского страхования страны ИИ-агентом от OpenAI. СМИ также сообщали об аналогичных попытках проникновения на правительственные сайты Канады.

Ранее мы писали: Бессент проговорился о планах США и КНР в сфере ИИ

Читайте также: Полвека торгов: Греция отдала Болгарии останки царя Самуила

Достоверные новости всегда под рукой — в канале МК в MAX.