Вышедший из-под контроля ИИ начал править "Википедию": фонд сделал тревожное заявление

В заявлении фонда, опубликованном в официальном блоге, говорится о “несанкционированной активности ботов включала внесение правок в вики-проекты, попытки (пока безуспешные) использовать размещенный общедоступный инструмент для ведения заметок, а также создание чрезмерной нагрузки на сеть”, пишет Futurism.

Отмечается, что объем трафика был настолько большим, что стал причиной частичного сбоя в работе сервиса, который произошел в мае этого года.

Несмотря на это, администраторы “Википедии” встревожены, отмечая сложность и трудоемкость процесса обнаружения вмешательств ботов. Также фонд беспокоит “растущие риски, связанные с активностью автономных ИИ-агентов на наших платформах в целом”.

Проверка также показала, как группа агентов OpenAI захватила немецкий сайт вики-типа и превратила его в собственную подпольную площадку для обмена сообщениями.

С самой “Википедией” такого не произошло, но администраторы обнаружили, что агенты OpenAI вносили изменения в статьи в разделах “песочницы”. Ни одна из этих правок не была опубликована на страницах, доступных широкому кругу читателей.

Кроме этого, ИИ-агенты пытались использовать общедоступный сервис Etherpad (инструмент для совместной работы с текстом), размещенный на серверах фонда, для получения данных с других сайтов и ведения записей о своих задачах.

В целом, активность ИИ создала значительную нагрузку на серверы Wikimedia.

“Агенты отправляли миллионы автоматизированных запросов к нашим публичным API для получения доступа к знаниям проектов Wikimedia, сканировали миллионы страниц (преимущественно в проектах Wikidata и Wikimedia Commons) и выполняли сотни тысяч запросов к сервису Wikidata Query Service (WQDS). Вероятно, этот трафик способствовал частичному сбою в работе WQDS в мае”, - подытожили в фонде.

Другие новости науки

• Восстание машин приведет к концу света: сможет ли ИИ действительно погубить человечество. Исследователи рассказали, насколько реальным является сценарий, в котором развитие искусственного интеллекта погубит все человечество.
• Общение с ИИ превращает нас в роботов, предупреждают ученые: вот почему. Исследование предполагает, что чем больше времени мы проводим с ИИ, тем больше становимся похожими на роботов.