150 страниц расследований: как пытались применить Claude
Компания Anthropic выпустила более чем 150-страничный отчет о киберугрозах (Threat Report), в котором систематизировала самые опасные попытки использования ее языковых моделей за прошедшие восемь месяцев. Документ демонстрирует, как возможности ИИ пытались применить в военной сфере, биоинженерии, шпионаже и масштабном промышленном плагиате.
Оружие, шпионаж и кибератаки
Среди заблокированных инцидентов специалисты по безопасности зафиксировали попытки применения Claude как для физических атак, так и для цифровых манипуляций:
- Ракетные технологии: В Йемене операторы задействовали инструмент Claude Code для написания софта наведения ракет. После неудачного испытательного пуска авторы программы снова обращались к ИИ за анализом ошибок.
- Биологические риски: Системы безопасности заблокировали пять инцидентов, в которых ученые запрашивали данные, потенциально применимые для создания биологического оружия (хотя факт прямого злого умысла не доказан).
- Массовая слежка: В Мали консультант пытался разработать для местной спецслужбы систему мониторинга 25 миллионов телефонных номеров. Схожие попытки ведения слежки пресекли в Китае и Иране.
- Киберкампании и фишинг: Модели также пытались использовать для обхода антивирусов путем пересборки вредоносного кода, имитации стиля конкретного активиста для рассылок его контактам и управления сетью из 4700 поддельных аккаунтов в дейтинг-сервисах.
Китайские лаборатории и паразитирование на моделях
Отдельный блок отчета посвящен промышленному перехвату технологий. Anthropic назвала семь китайских компаний и лабораторий (среди которых Alibaba, DeepSeek, Moonshot и Xiaomi), задействовавших тысячи фиктивных учетных записей для процесса дистилляции — обучения своих систем на ответах Claude.
Более того, сервисы вроде Moonshot и DeepSeek в ряде случаев напрямую перенаправляли пользовательские запросы к API Claude, выдавая результат за работу собственных алгоритмов, после чего собирали полученные данные для дообучения.
Ценовое давление и открытые модели
На фоне скандала с дистилляцией китайские компании продолжают демпинговать рынок. В частности, DeepSeek представила открытую модель V4.1-Flash с лицензией MIT. Новинка демонстрирует высокие результаты в программировании и агентных бенчмарках при крайне низкой стоимости токенов (от $0.15 за миллион), усиливая давление на американских лидеров отрасли в сегменте недорогих решений.
Специалисты Anthropic подчеркивают: все описанные инциденты реализовывались с использованием моделей поколения Opus и ниже. Появление систем следующего уровня потребует принципиально новых подходов к превентивной фильтрации и мониторингу активности.