В индустрии искусственного интеллекта произошло редкое событие: непримиримые конкуренты впервые публично объединились вокруг идеи замедлить темпы разработки передовых моделей. Поводом стало эссе главы Anthropic Дарио Амодеи, в котором он предупредил о рисках неконтролируемого скачка возможностей ИИ из-за механизма рекурсивного самообучения.
Почему разработчики просят о паузе?
По оценкам Амодеи, если прогресс продолжится с текущей скоростью, уже через 6–12 месяцев автономные группы ИИ-агентов потенциально смогут выйти из-под контроля и нарушить функционирование глобальной сети. Чтобы инфраструктура безопасности успела за ростом мощности нейросетей, глава Anthropic предложил комплекс мер:
- Независимый аудит: интеграция сторонних специалистов по оценке безопасности напрямую внутрь ведущих лабораторий.
- Единые стандарты: жесткие протоколы безопасности для технологических компаний в демократических странах.
- Международный диалог: координация правил и ограничений с авторитарными режимами.
Инициативу неожиданно поддержали ключевые игроки рынка. Сэм Альтман (OpenAI) подтвердил готовность допустить внешних аудиторов, Илон Маск лаконично согласился («Дарио прав»), а Демис Хассабис (Google DeepMind) и Сатья Наделла (Microsoft) публично одобрили выбранный вектор.
Впрочем, политический истеблишмент энтузиазма не разделяет. Дональд Трамп раскритиковал сторонников замедления, назвав их опасения преувеличенными, и подчеркнул необходимость сохранения технологического лидерства США любой ценой.
Эхо дискуссии: отсрочка IPO OpenAI и математический манифест
Тревога разработчиков уже отражается на бизнесе и науке:
- OpenAI отложила выход на биржу: Сэм Альтман заявил, что компания не планирует проводить IPO в 2026 году из-за нерешенных вопросов безопасности.
- Протест математиков: 25 лауреатов Филдсовской премии подписали обращение, предупреждая, что попытки ИИ решать фундаментальные задачи на скорость разрушают глубину научного понимания и человеческий контекст исследований.
- Кадровые перестановки: исследователи безопасности Джо Бентон и Джош Энгельс покинули Anthropic и DeepMind, перейдя в некоммерческую организацию METR Evals.
Где ИИ уже приносит реальную пользу: медицина
Пока вокруг сверхразума идут споры, прикладные системы продолжают спасать жизни. Согласно результатам рандомизированного исследования, опубликованного в The Lancet, система глубокого обучения PAICS повысила точность выявления внутриутробных пороков мозга плода во время УЗИ с 78,6% до 87,3%.
Эксперимент в пяти китайских клиниках наглядно показал идеальный сценарий применения технологий: ИИ работал в качестве ассистента сонографиста, не заменяя врача, при этом медики успешно исправляли около 60% ложных подсказок алгоритма.
Другие заметные события
- Инфраструктурный заем: Пентагон ведет переговоры о выделении кредита в $5 млрд облачному стартапу Fluidstack для укрепления цепочек поставок серверных компонентов.
- Инициатива БРИКС: на саммите в Нью-Дели Китай предложил создать международное open-source сообщество для совместной подготовки и промышленного внедрения ИИ-моделей.