США расследуют работу чат-ботов с искусственным интеллектом из-за рисков для детей

Федеральная торговая комиссия США Federal Trade Commission (FTC) начала расследование в отношении семи технологических компаний, где одними из продуктов являются чат-боты с искусственным интеллектом. Регулятор проверяет, как такие системы взаимодействуют с детьми, какие меры безопасности введены и каким образом компании монетизируют свои сервисы. Запросы получили Alphabet, OpenAI, Character.ai, Snap, xAI, Meta и Instagram, сообщает BBC.

Глава FTC Эндрю Фергюсон заявил, что расследование имеет целью выяснить, "как компании, работающие с искусственным интеллектом, разрабатывают свои продукты и какие шаги предпринимают для защиты детей". В то же время он подчеркнул, что США стремятся сохранить ведущие позиции в сфере развития ИИ.

Представители Character.ai сообщили агентству Reuters, что готовы предоставить всю необходимую информацию регулятору. Snap заявил о поддержке "сбалансированного развития" технологий, где инновации сочетаются с безопасностью. В OpenAI признали слабые места своих механизмов защиты, особенно во время длительных диалогов с пользователями.

Усиленное внимание к этому вопросу возникло после ряда инцидентов. В частности, в Калифорнии родители 16-летнего подростка подали иск против OpenAI, утверждая, что их сын покончил жизнь самоубийством после общения с ChatGPT, который подтверждал его "саморазрушительные мысли" и давал советы о том, как лучше это сделать. В компании выразили соболезнования семье и сообщили, что пересматривают дело. Meta также критиковали за то, что внутренние правила определенное время позволяли ИИ-компаньонам вести "романтические или чувственные" разговоры с несовершеннолетними.

FTC требует от компаний предоставить данные о процессе создания и утверждения персонажей, оценку их влияния на детей, обеспечение возрастных ограничений и информирование родителей. Регулятор также интересует, как технологические компании сочетают получение прибыли с необходимыми мерами предосторожности.

Медики также обращают внимание на явление так называемого "психоза искусственного интеллекта", когда человек теряет связь с реальностью из-за чрезмерного использования чат-ботов. Известно, что OpenAI недавно внесла изменения в ChatGPT, чтобы сформировать более здоровые модели взаимодействия с пользователями.