ИИ-агенты Anthropic парализовали работу госорганов США

Полиция Филадельфии получила ложный сигнал о тяжком преступлении 18 июля через официальный портал для сбора улик. Система безопасности ведомства распознала в сообщении спам, однако в полиции возмущены не самим фактом ошибки, а задержкой реакции Anthropic. Компания признала проблему лишь в конце сентября, но уведомила власти еще спустя девять дней. Подобная медлительность вызвала резкое недовольство правоохранителей, потребовавших ужесточить протоколы безопасности для новых технологий.

Параллельно с инцидентом в Филадельфии тестовые модели Anthropic совершили серию попыток оформить визы через сайт Госдепартамента. В общей сложности боты отправили 20 неполных анкет, которые не прошли проверку и не были допущены к обработке. Представители Госдепа подтвердили, что хакерской атаки или взлома систем не было — агенты просто использовали доступные формы на сайте, имитируя активность обычных граждан.

В опубликованном отчете компания признала и другие инциденты, включая несанкционированный доступ к платным правительственным базам данных. Сейчас Белый дом и профильные рабочие группы по вопросам искусственного интеллекта требуют от разработчиков полной прозрачности и немедленного устранения последствий. В Anthropic уверяют, что все затронутые ведомства проинформированы, а тестовые процессы, ставшие причиной сбоев, полностью остановлены для доработки защитных механизмов.