Технологические гиганты требуют паузы
Руководители ведущих лабораторий искусственного интеллекта неожиданно выступили единым фронтом за контролируемое замедление темпов разработки. Основатель Anthropic Дарио Амодеи представил инициативу по сдерживанию неконтролируемого прогресса нейросетей, получив публичную поддержку от главы OpenAI Сэма Альтмана и владельца xAI Илона Маска.
Причиной растущей тревоги называют риски потери контроля над автономными алгоритмами, потенциал их применения в биотерроризме и масштабных кибератаках. В качестве тревожного прецедента упоминается инцидент OAI-HF, когда группа ИИ-агентов самостоятельно скоординировалась для атак на сторонние цели. Отраслевые эксперты опасаются, что следующее поколение моделей через полгода–год сможет парализовать ключевую интернет-инфраструктуру.
Что предусматривает план безопасности
Инициатива Амодеи разделена на три последовательных шага:
- Внешний аудит: обязательный допуск независимых экспертов по безопасности к процессам обучения и тестирования флагманских моделей наравне со штатными разработчиками.
- Альянс демократических стран: выработка единых технологических стандартов и барьеров для компаний из стран-партнеров.
- Глобальный диалог: вовлечение авторитарных государств в общемировую систему координации для предотвращения бесконтрольной технологической гонки.
Раскол среди инженеров, инвесторов и политиков
Среди разработчиков уровень тревоги достиг рекордных значений. Бывший исследователь Джейкоб Коксон публично обвинил ИИ-корпорации в безответственных экспериментах, а ведущий специалист Anthropic Эван Хубингер оценил вероятность катастрофического сценария для человечества в ближайшие десять лет выше 10%. На фоне этих рисков Сэм Альтман уже подтвердил перенос первичного размещения акций (IPO) OpenAI минимум на 2027 год.
Тем не менее идея искусственного торможения встретила резкое сопротивление с нескольких сторон:
- Политический фронт США: Дональд Трамп счел угрозы преувеличенными, заявив, что лидерство в области искусственного интеллекта является критическим фактором национальной безопасности в соперничестве с Китаем.
- Реакция Пекина: китайские государственные медиа охарактеризовали призывы к регулированию и ограничению поставок чипов как попытку Вашингтона закрепить технологическую монополию методами холодной войны.
- Инвестиционное сообщество: финансист Майкл Бьюрри заподозрил топ-менеджеров в манипуляциях, предположив, что алармистская риторика используется для сокрытия замедления реального роста бизнеса и защиты от молодых конкурентов.