Белый дом запретил Anthropic масштабировать ИИ Mythos — WSJ

Белый дом выступил против плана компании Anthropic расширить доступ к модели искусственного интеллекта Mythos. Этот инструмент уже вызвал беспокойство из-за потенциальных киберугроз. Решение затрудняет дальнейшее развертывание технологии и подчеркивает напряженные отношения сторон, сообщает The Wall Street Journal.

Администрация США запретила Anthropic предоставлять доступ к Mythos еще примерно 70 организациям, что увеличило бы их общее количество до около 120. По данным источников WSJ, чиновники указали на риски для безопасности и выразили сомнения относительно способности компании обеспечить необходимые вычислительные ресурсы. В Белом доме опасаются, что масштабирование доступа может повлиять на эффективность использования модели государственными структурами.

Причиной особого внимания к Mythos стали ее возможности выявлять и использовать уязвимости программного обеспечения. За последние недели эти функции поразили как государственные учреждения, так и частные компании, что также усилило беспокойство относительно потенциальных кибератак.

Anthropic предоставила доступ к Mythos примерно 50 организациям, преимущественно из сектора критической инфраструктуры. Публичного запуска модели компания не планирует, хотя отдельные государственные учреждения уже используют систему.

"Администрация уравновешивает инновации и безопасность, сотрудничая с частным сектором, чтобы убедиться, что модели искусственного интеллекта безопасно развертываются", — заявил представитель Белого дома.

Дополнительное беспокойство вызвало сообщение Anthropic о расследовании возможного несанкционированного доступа к Mythos. Кроме того, администрация критикует компанию за связи с организациями, поддерживающими более жесткое регулирование ИИ, а также за присутствие в команде бывших чиновников предыдущей администрации.

Аналитики отмечают, что противостояние является малоэффективным для обеих сторон. В частности, эксперты отмечают необходимость сотрудничества в сфере кибербезопасности на фоне роста возможностей современных ИИ-моделей.

На прошлой неделегенеральный директор Anthropic Дарио Амодей встречался с руководителем аппарата Белого дома Сьюзи Уайлз в Западном крыле для обсуждения рисков Mythos и возможного улучшения отношений. Однако отказ в расширении доступа свидетельствует, что напряжение между сторонами сохраняется, несмотря на попытки примирения.

Ситуацию осложняет конфликт между компанией и правительством, начавшийся после того, как Амодей отказал в использовании ИИ компании в автономном оружии и массовой слежке за людьми. Впоследствии министр обороны Пит Хегсет официально признал Anthropic риском для цепи поставок, что фактически заблокировало использование ее продуктов в контрактах Пентагона и не только. Anthropic пытается оспорить это решение в суде, однако пока он поддержал позицию Пентагона.