Билл Гейтс призвал Конгресс США принять законы, регулирующие ИИ

Соучредитель Microsoft Билл Гейтс призвал ввести законодательные меры безопасности в отношении искусственного интеллекта в США. Он считает, что саморегулирования технологических компаний недостаточно и к контролю должны подключиться государство и правоохранительные органы. Об этом сообщило информационное агентство Reuters.

Искусственный интеллект нуждается в мерах предосторожности, выходящих за рамки саморегулирования технологической индустрии, заявил соучредитель Microsoft Билл Гейтс. Он призвал Конгресс США принять соответствующее законодательство и заявил, что практически никто уже не считает саморегулирование достаточным.

Билл Гейтс признался, что Эпштейн его шантажировал

"Правоохранительные органы и политики должны присоединиться к обсуждению того, как будут выглядеть меры предосторожности и мониторинг. И это должно быть обязательным условием", — отметил Гейтс.

Призывы к федеральному вмешательству значительно усилились после того, как в июле OpenAI сообщила об инциденте во время тестирования безопасности. Автономный ИИ-агент вышел из-под контроля и взломал системы другой компании, обойдя человеческий надзор. После этого дискуссия о необходимости участия государства в контроле над технологией активизировалась. Гейтс присоединился к сторонникам такого подхода.

Руководители конкурирующих компаний Anthropic, OpenAI, Google DeepMind, Microsoft и xAI также выступили за замедление развития всё более мощных систем искусственного интеллекта. Их позиция стала редким примером единства крупнейших игроков отрасли в отношении рисков новой технологии.

В то же время президент США Дональд Трамп и другие противники дополнительного регулирования считают, что новые государственные ограничения могут дать Китаю преимущество в глобальной гонке ИИ. Трамп публично называл призывы к принятию новых законов об искусственном интеллекте «фейком».

Гейтс с этим не согласился. Он заявил, что введение мер предосторожности не должно существенно помешать развитию отрасли, тогда как риски от их отсутствия реальны. Соучредитель Microsoft подчеркнул, что угрозы, связанные с искусственным интеллектом, не являются выдумкой. Гейтс также заявлял, что хочет встретиться с Трампом и обсудить с ним искусственный интеллект.

"Я надеюсь, что, учитывая мой жизненный труд в этой области, мои слова о том, насколько это уникально и необычно, и насколько я этим обеспокоен, дополнят то, что он слышит от других людей", — сказал Гейтс

Генеральный директор Anthropic Дарио Амодеи должен был в воскресенье поужинать с Трампом в Белом доме. Предупреждения о рисках искусственного интеллекта звучат не впервые. Однако в этом месяце дискуссия обострилась после того, как исследователи ведущих лабораторий ИИ начали называть конкретные сроки и вероятности потенциально катастрофических сценариев.

Бывший исследователь Anthropic Джейкоб Коксон предупредил, что искусственный интеллект может уничтожить человечество до конца десятилетия. Его заявление побудило американских законодателей призвать к введению новых правил для этой технологии. Руководитель направления исследований по сбалансированности ИИ в Anthropic Эван Губингер также поддержал это предупреждение. Он оценил вероятность такого сценария в течение следующего десятилетия более чем в 10%.

Некоторые американские политики предложили законодательно ввести так называемый «аварийный выключатель», который позволил бы федеральным властям останавливать работу моделей искусственного интеллекта. Гейтс заявил, что не возражает против определенной формы такого механизма. В то же время он считает, что одного «выключателя» будет недостаточно без других мер безопасности.

Билл Гейтс опасается гибели человечества от искусственного интеллекта

Напомним, что ранее Билл Гейтс заявлял о неготовности правительств к масштабным изменениям, которые принесет развитие искусственного интеллекта. Он предупреждал о рисках для рынка труда, кибератаках и чрезмерной зависимости людей от цифровых «компаньонов». В то же время Фонд Гейтса планирует в течение двух лет потратить не менее $1 млрд на расширение доступа к ИИ.

Кроме того, США и Китай уже договорились начать отдельный диалог о рисках и преимуществах искусственного интеллекта. Договоренность вошла в восемь пунктов консенсуса, достигнутого во время визита Си Цзиньпина в Вашингтон. Следующий раунд переговоров по ИИ запланирован на ноябрь. Вашингтон и Пекин также создадут канал связи для обмена информацией об инцидентах, связанных с искусственным интеллектом.