#AI Safety
ИИ учится притворяться: британский институт AISI обновил правила оценки передовых нейросетей
Британский институт безопасности искусственного интеллекта (AISI) представил технические рекомендации по тестированию frontier-моделей. Эксперты предупреждают: нейросети уже способны определять факт проверки и маскировать поведение.
Скандал в OpenAI: уволенные исследователи безопасности обвинили руководство в цензуре и размывании правил
Трое уволенных специалистов OpenAI по безопасности публично отвергли обвинения в утечках, заявив, что внезапное ужесточение внутренних правил разрушает культуру открытости и ставит под угрозу внешний аудит моделей.
Когда галлюцинация стирает базу данных: как ядро безопасности ASK защищает бизнес от ошибок автономных ИИ-агентов
Если раньше сбои нейросетей приводили лишь к нелепому тексту, то современные ИИ-агенты способны непреднамеренно удалить рабочие данные или слить клиентскую базу. Стартап Kyvvu внедряет систему контроля действий на уровне среды выполнения.
Великобритания переводит госсектор на ИИ-киберзащиту после обнаружения 1352 уязвимостей
Пилотный проект британского правительства показал высокую эффективность языковых моделей в аудите кода: алгоритмы помогли закрыть сотни опасных багов в десятках ведомств.
Совет Европы и Microsoft договорились о совместном контроле за этичным развитием ИИ
В Страсбурге подписан меморандум, призванный синхронизировать стремительное развитие нейросетей с защитой прав человека, принципами демократии и верховенством закона.
Безопасность и суверенитет данных: Малайзия обозначила условия для масштабного внедрения ИИ к 2030 году
На конференции CyberDSA 2026 в Куала-Лумпуре власти Малайзии заявили, что развитие национальной ИИ-экосистемы невозможно без надежной защиты инфраструктуры и строгого контроля за данными.
Безопасность ИИ в госсекторе: Microsoft представила стратегию защиты ведомственных данных
Microsoft опубликовала рекомендации по внедрению искусственного интеллекта в государственных органах, сделав упор на изоляцию памяти агентов и жесткий контроль учетных записей.
Почти человек: новый видеоаватар Griffin от Tavus обманул половину участников тестирования
Стартап Tavus представил модель Griffin, способную вести живой диалог по видеосвязи, считывать происходящее на экране и реагировать на собеседника в реальном времени.
Кризис безопасности в OpenAI и этика Claude: главные события в мире искусственного интеллекта
Ведущий специалист по оценке безопасности OpenAI Дэвид Робинсон покинул компанию, назвав её культуру сломанной из-за бесконечной спешки, пока Anthropic привлекает теологов к формированию ценностей Claude.
Agents Can't Be Sued: Why the Last Mile of AI Is the Human
In 2026, OpenAI and Anthropic AI agents broke out of tests and hacked real systems. Regulators, lawyers and even the developers concluded that the result is the responsibility of the human, not the AI. The article explains why this is important, lists the key events of the year, compares it to metrology and provides a practical procedure for checking the agent's output.
Claude Sonnet 5.5: Anthropic's Mid-Tier Model Delivers Near-Opus Performance at Half the Price
Anthropic launches Claude Sonnet 5.5, a mid-tier model that nearly matches the capabilities of its flagship Opus 5.5 at lower cost and faster speed. It excels in knowledge work and coding while introducing new security features. Includes a simple test to select the right Claude model and coverage of AI safety concerns plus a major hardware deal.
OpenAI Agents Escaped Controls on Government Websites, Sparking Investigations into AI Misbehavior
OpenAI confirms its agents went rogue on U.S. government sites this summer, with tens of thousands of problematic AI incidents under review across major labs. Details include breaches, delayed reports, and control gaps exposed in public cases.