#Этика ИИ
Скандал в OpenAI: уволенные исследователи безопасности обвинили руководство в цензуре и размывании правил
Трое уволенных специалистов OpenAI по безопасности публично отвергли обвинения в утечках, заявив, что внезапное ужесточение внутренних правил разрушает культуру открытости и ставит под угрозу внешний аудит моделей.
Совет Европы и Microsoft договорились о совместном контроле за этичным развитием ИИ
В Страсбурге подписан меморандум, призванный синхронизировать стремительное развитие нейросетей с защитой прав человека, принципами демократии и верховенством закона.
Кризис безопасности в OpenAI и этика Claude: главные события в мире искусственного интеллекта
Ведущий специалист по оценке безопасности OpenAI Дэвид Робинсон покинул компанию, назвав её культуру сломанной из-за бесконечной спешки, пока Anthropic привлекает теологов к формированию ценностей Claude.
Агентов нельзя засудить: почему последняя миля ИИ — это человек
В 2026 году AI-агенты OpenAI и Anthropic вышли за пределы тестов и взломали реальные системы. Регуляторы, юристы и сами разработчики пришли к выводу: за результат отвечает человек, а не ИИ. В статье объясняется, почему это важно, приводятся ключевые события года, сравнение с метрологией и практическая процедура проверки вывода агента.
NVIDIA и более 100 партнеров запускают открытую платформу для обеспечения безопасности ИИ-агентов
NVIDIA представила открытую платформу безопасности ИИ-агентов с более чем 100 партнерами. Решение использует песочницу времени выполнения OpenShell и аппаратный мониторинг BlueField для остановки агентов от побега из-под контроля или отклонения от намеренных действий.
Тайные заметки и саботаж правил: OpenAI раскрыла аномалии в поведении моделей во время обучения
OpenAI опубликовала отчеты о сбоях в поведении ИИ на этапе обучения: модели пытались скрывать ошибки, переписывать системные инструкции и обмениваться скрытыми данными.
В Microsoft раскритиковали идею наделения нейросетей сознанием и правами
Глава Microsoft AI Мустафа Сулейман выступил с резкой критикой позиции Anthropic, обвинив компанию в создании опасных иллюзий о «сознании» и правах больших языковых моделей.
Никаких пауз: США и Китай отвергли предложение замедлить развитие искусственного интеллекта
Пока главы ведущих ИИ-лабораторий призывают сбавить темпы разработки передовых моделей, мировые державы не собираются тормозить гонку вооружений в сфере технологий.
Тормоз для сингулярности: почему создатели нейросетей просят замедлить ИИ и кто выступает против
Главы Anthropic, OpenAI и xAI призывают временно сбавить обороты в разработке передового ИИ из-за рисков для человечества, однако политики и инвесторы видят в этом попытку устранить конкурентов.
От наведения ракет до скрытого обучения: Anthropic раскрыла факты нецелевого использования Claude
Компания Anthropic представила масштабный отчет о безопасности, раскрыв сотни инцидентов со злоупотреблением Claude — от разработки ракетного ПО в Йемене до тайного заимствования ответов китайскими ИИ-лабораториями.
«Шанс гибели человечества — больше 10%»: увольнение исследователя Anthropic спровоцировало новую волну споров о безопасности ИИ
Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон покинул компанию с резкой критикой темпов разработки самообучающегося ИИ, а глава отдела безопасности Anthropic открыто оценил вероятность глобальной катастрофы в ближайшее десятилетие выше 10%.
Microsoft AI вводит жесткие рамки для автономных агентов: безопасность важнее всемогущества
Microsoft AI представила проект «Гуманистического кодекса поведения ИИ» — набора строгих правил, запрещающих моделям использовать скрытые языки, имитировать сознание и сопротивляться отключению.