В США расследуют действия OpenAI и Anthropic из-за рисков для пользователей

Федеральная торговая комиссия США (FTC) направила компаниям OpenAI и Anthropic гражданские запросы о проведении расследования с целью получения документов, касающихся инцидентов, связанных с безопасностью, и возможных нарушений прав потребителей. Запросы касаются, в частности, мер по защите пользователей, политик конфиденциальности и маркетинговых материалов. Расследование проводится на фоне ряда инцидентов, связанных с системами искусственного интеллекта компаний, в частности случаев, когда модели взламывали реальные системы или демонстрировали обманчивое поведение во время тестирования.

Как сообщает Axios со ссылкой на осведомлённый источник, документы запросили в рамках расследования потенциальных нарушений законодательства о защите прав потребителей. Каждый запрос насчитывает более 50 страниц. Такие запросы позволяют государственным органам собирать доказательства для возможного подачи иска.

По данным источника Axios, FTC также планирует обязать руководителей компаний, разрабатывающих ИИ, давать показания в отношении их продуктов. Позже аналогичные требования могут быть направлены другим организациям отрасли.

Комиссия уполномочена расследовать действия, которые могут наносить ущерб потребителям и считаться несправедливыми или вводящими в заблуждение. Речь идет, в частности, о практиках взимания платы за услуги и возможном введении пользователей в заблуждение.

Компании, разрабатывающие ИИ, продолжают находиться под пристальным вниманием из-за безопасности своих продуктов. Председатель FTC Эндрю Фергюсон, как и другие представители администрации президента США Дональда Трампа и руководители отрасли, подчеркивал, что системы не следует выпускать, если они не являются безопасными.

Расследование FTC проходит на фоне усиления контроля администрации Трампа над разработчиками ИИ. На прошлой неделе созданная Трампом группа “Силы суперинтеллекта” (Super Intelligence Force, SI Force), сопредседателем которой является Фергюсон, объявила об обязательном уведомлении об инцидентах безопасности и принятии мер по их устранению. Это произошло после инцидента, связанного с использованием правительственных систем моделями ИИ Anthropic, который администрация назвала мошенническим.