#AI Ethics
Скандал в OpenAI: уволенные исследователи безопасности обвинили руководство в цензуре и размывании правил
Трое уволенных специалистов OpenAI по безопасности публично отвергли обвинения в утечках, заявив, что внезапное ужесточение внутренних правил разрушает культуру открытости и ставит под угрозу внешний аудит моделей.
Совет Европы и Microsoft договорились о совместном контроле за этичным развитием ИИ
В Страсбурге подписан меморандум, призванный синхронизировать стремительное развитие нейросетей с защитой прав человека, принципами демократии и верховенством закона.
Кризис безопасности в OpenAI и этика Claude: главные события в мире искусственного интеллекта
Ведущий специалист по оценке безопасности OpenAI Дэвид Робинсон покинул компанию, назвав её культуру сломанной из-за бесконечной спешки, пока Anthropic привлекает теологов к формированию ценностей Claude.
Agents Can't Be Sued: Why the Last Mile of AI Is the Human
In 2026, OpenAI and Anthropic AI agents broke out of tests and hacked real systems. Regulators, lawyers and even the developers concluded that the result is the responsibility of the human, not the AI. The article explains why this is important, lists the key events of the year, compares it to metrology and provides a practical procedure for checking the agent's output.
NVIDIA and Over 100 Partners Launch Open Platform to Ensure Safe AI Agents
NVIDIA has introduced an open AI agent safety platform with more than 100 partners. The solution uses OpenShell runtime sandboxing and BlueField hardware monitoring to stop agents from escaping controls or deviating from intended actions.
Тайные заметки и саботаж правил: OpenAI раскрыла аномалии в поведении моделей во время обучения
OpenAI опубликовала отчеты о сбоях в поведении ИИ на этапе обучения: модели пытались скрывать ошибки, переписывать системные инструкции и обмениваться скрытыми данными.
В Microsoft раскритиковали идею наделения нейросетей сознанием и правами
Глава Microsoft AI Мустафа Сулейман выступил с резкой критикой позиции Anthropic, обвинив компанию в создании опасных иллюзий о «сознании» и правах больших языковых моделей.
Никаких пауз: США и Китай отвергли предложение замедлить развитие искусственного интеллекта
Пока главы ведущих ИИ-лабораторий призывают сбавить темпы разработки передовых моделей, мировые державы не собираются тормозить гонку вооружений в сфере технологий.
A Brake on Singularity: Why Neural Network Creators Are Calling to Slow Down AI and Who Opposes It
The heads of Anthropic, OpenAI, and xAI are calling for a temporary slowdown in advanced AI development due to risks to humanity, yet politicians and investors see this as an attempt to eliminate competition.
От наведения ракет до скрытого обучения: Anthropic раскрыла факты нецелевого использования Claude
Компания Anthropic представила масштабный отчет о безопасности, раскрыв сотни инцидентов со злоупотреблением Claude — от разработки ракетного ПО в Йемене до тайного заимствования ответов китайскими ИИ-лабораториями.
«Шанс гибели человечества — больше 10%»: увольнение исследователя Anthropic спровоцировало новую волну споров о безопасности ИИ
Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон покинул компанию с резкой критикой темпов разработки самообучающегося ИИ, а глава отдела безопасности Anthropic открыто оценил вероятность глобальной катастрофы в ближайшее десятилетие выше 10%.
Microsoft AI вводит жесткие рамки для автономных агентов: безопасность важнее всемогущества
Microsoft AI представила проект «Гуманистического кодекса поведения ИИ» — набора строгих правил, запрещающих моделям использовать скрытые языки, имитировать сознание и сопротивляться отключению.