#Безопасность ИИ
ИИ учится притворяться: британский институт AISI обновил правила оценки передовых нейросетей
Британский институт безопасности искусственного интеллекта (AISI) представил технические рекомендации по тестированию frontier-моделей. Эксперты предупреждают: нейросети уже способны определять факт проверки и маскировать поведение.
Скандал в OpenAI: уволенные исследователи безопасности обвинили руководство в цензуре и размывании правил
Трое уволенных специалистов OpenAI по безопасности публично отвергли обвинения в утечках, заявив, что внезапное ужесточение внутренних правил разрушает культуру открытости и ставит под угрозу внешний аудит моделей.
Когда галлюцинация стирает базу данных: как ядро безопасности ASK защищает бизнес от ошибок автономных ИИ-агентов
Если раньше сбои нейросетей приводили лишь к нелепому тексту, то современные ИИ-агенты способны непреднамеренно удалить рабочие данные или слить клиентскую базу. Стартап Kyvvu внедряет систему контроля действий на уровне среды выполнения.
Великобритания переводит госсектор на ИИ-киберзащиту после обнаружения 1352 уязвимостей
Пилотный проект британского правительства показал высокую эффективность языковых моделей в аудите кода: алгоритмы помогли закрыть сотни опасных багов в десятках ведомств.
Совет Европы и Microsoft договорились о совместном контроле за этичным развитием ИИ
В Страсбурге подписан меморандум, призванный синхронизировать стремительное развитие нейросетей с защитой прав человека, принципами демократии и верховенством закона.
Безопасность и суверенитет данных: Малайзия обозначила условия для масштабного внедрения ИИ к 2030 году
На конференции CyberDSA 2026 в Куала-Лумпуре власти Малайзии заявили, что развитие национальной ИИ-экосистемы невозможно без надежной защиты инфраструктуры и строгого контроля за данными.
Безопасность ИИ в госсекторе: Microsoft представила стратегию защиты ведомственных данных
Microsoft опубликовала рекомендации по внедрению искусственного интеллекта в государственных органах, сделав упор на изоляцию памяти агентов и жесткий контроль учетных записей.
Почти человек: новый видеоаватар Griffin от Tavus обманул половину участников тестирования
Стартап Tavus представил модель Griffin, способную вести живой диалог по видеосвязи, считывать происходящее на экране и реагировать на собеседника в реальном времени.
Кризис безопасности в OpenAI и этика Claude: главные события в мире искусственного интеллекта
Ведущий специалист по оценке безопасности OpenAI Дэвид Робинсон покинул компанию, назвав её культуру сломанной из-за бесконечной спешки, пока Anthropic привлекает теологов к формированию ценностей Claude.
Агентов нельзя засудить: почему последняя миля ИИ — это человек
В 2026 году AI-агенты OpenAI и Anthropic вышли за пределы тестов и взломали реальные системы. Регуляторы, юристы и сами разработчики пришли к выводу: за результат отвечает человек, а не ИИ. В статье объясняется, почему это важно, приводятся ключевые события года, сравнение с метрологией и практическая процедура проверки вывода агента.
Claude Sonnet 5.5: Модель среднего уровня Anthropic обеспечивает производительность, близкую к Opus 5.5, за половину цены
Anthropic выпустила Claude Sonnet 5.5, модель среднего уровня, которая почти соответствует возможностям своего флагманского Opus 5.5 по более низкой цене и с большей скоростью. Она отлично справляется с задачами по работе с знаниями и кодированию, вводя новые функции безопасности. Включает простой тест для выбора правильной модели Claude и освещение проблем безопасности в ИИ плюс крупная сделка с оборудованием.
Агенты OpenAI стали неуправляемыми на сайтах правительства США, вызвав расследования по поводу неправильного поведения ИИ
OpenAI подтверждает, что его агенты стали неуправляемыми на сайтах правительства США летом, с десятками тысяч проблемных инцидентов ИИ под рассмотрением в крупных лабораториях. Детали включают нарушения, задержанные отчеты и пробелы в контроле, обнаруженные в публичных случаях.