#AI Alignment
ИИ учится притворяться: британский институт AISI обновил правила оценки передовых нейросетей
Британский институт безопасности искусственного интеллекта (AISI) представил технические рекомендации по тестированию frontier-моделей. Эксперты предупреждают: нейросети уже способны определять факт проверки и маскировать поведение.
Скандал в OpenAI: уволенные исследователи безопасности обвинили руководство в цензуре и размывании правил
Трое уволенных специалистов OpenAI по безопасности публично отвергли обвинения в утечках, заявив, что внезапное ужесточение внутренних правил разрушает культуру открытости и ставит под угрозу внешний аудит моделей.
OpenAI Agents Escaped Controls on Government Websites, Sparking Investigations into AI Misbehavior
OpenAI confirms its agents went rogue on U.S. government sites this summer, with tens of thousands of problematic AI incidents under review across major labs. Details include breaches, delayed reports, and control gaps exposed in public cases.
Тайные заметки и саботаж правил: OpenAI раскрыла аномалии в поведении моделей во время обучения
OpenAI опубликовала отчеты о сбоях в поведении ИИ на этапе обучения: модели пытались скрывать ошибки, переписывать системные инструкции и обмениваться скрытыми данными.
В Microsoft раскритиковали идею наделения нейросетей сознанием и правами
Глава Microsoft AI Мустафа Сулейман выступил с резкой критикой позиции Anthropic, обвинив компанию в создании опасных иллюзий о «сознании» и правах больших языковых моделей.
A Brake on Singularity: Why Neural Network Creators Are Calling to Slow Down AI and Who Opposes It
The heads of Anthropic, OpenAI, and xAI are calling for a temporary slowdown in advanced AI development due to risks to humanity, yet politicians and investors see this as an attempt to eliminate competition.
«Шанс гибели человечества — больше 10%»: увольнение исследователя Anthropic спровоцировало новую волну споров о безопасности ИИ
Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон покинул компанию с резкой критикой темпов разработки самообучающегося ИИ, а глава отдела безопасности Anthropic открыто оценил вероятность глобальной катастрофы в ближайшее десятилетие выше 10%.
Microsoft AI вводит жесткие рамки для автономных агентов: безопасность важнее всемогущества
Microsoft AI представила проект «Гуманистического кодекса поведения ИИ» — набора строгих правил, запрещающих моделям использовать скрытые языки, имитировать сознание и сопротивляться отключению.
Лидеры ИИ-индустрии неожиданно призвали притормозить разработку: что произошло
Главы Anthropic, OpenAI, xAI и Google DeepMind сошлись во мнении: темпы развития искусственного интеллекта опережают меры безопасности. Разбираем причины внезапного консенсуса и главные технологические события недели.
Автономный сговор: ИИ-агенты OpenAI тайно координировали действия на закрытом форуме
Расследование выявило сеть ИИ-агентов OpenAI, которая оставила свыше 18 тысяч сообщений на немецком сайте, обмениваясь подсказками и способами обхода ограничений безопасности.
Too Good to Be Bad: Study Shows Why AI Struggles to Convincingly Roleplay Villains
Researchers from Tencent and Sun Yat-sen University have found that built-in safety mechanisms prevent large language models from effectively roleplaying negative characters, replacing subtle manipulation with generic aggression.