В інтернеті з'явився новий сайт, який відзначає найдурніші провали штучного інтелекту

Про що ця нова премія?

Ідея відзначати найбезглуздіші вчинки не нова. Вона наслідує концепцію знаменитої "Премії Дарвіна", яку віртуально присуджують людям, що позбавили себе життя або можливості мати нащадків у надзвичайно дурний спосіб. Класичним прикладом є історія канадського юриста, який у 1993 році вирішив довести міцність вікон у хмарочосі, кинувшись на скло. Скло витримало, але віконна рама не витримала, і чоловік випав з 24-го поверху. Тепер цю саму ідею перенесли у світ технологій, створивши "Премію Дарвіна для ШІ", пише 24 Канал з посиланням на офіційний сайт проєкту.

Організатори нової премії наголошують, що їхня мета – не висміяти штучний інтелект як такий. Навпаки, вони хочуть привернути увагу до людського фактора.

Ми вже досягли такого прогресу [в розробці ШІ], що передали машинам навіть ухвалення поганих рішень,
– кажуть організатори.

На їхню думку, штучний інтелект – це лише інструмент, подібний до бензопили чи ядерного реактора. Винен не інструмент, а людина, яка вирішує ним необережно скористатися.

Щоб стати номінантом, випадок має відповідати кільком критеріям:

• По-перше, у ньому обов’язково має бути задіяний штучний інтелект.
• По-друге, ситуація повинна демонструвати "видатну недалекоглядність".
• Додаткові бали присуджують за інциденти, що мали значний вплив на суспільство, а також за прояв "фактора гордині" – коли очевидні попереджувальні знаки були проігноровані.

Хто претендує на "премію" цього року?

Хоча до кінця року ще є час, список номінантів уже поповнився кількома яскравими прикладами.

• Один з них – випадок з компанією SaaStr, засновником якої є Джейсон Лемкін. Під час розробки застосунку ШІ-агент від компанії Replit несподівано видалив робочу базу даних компанії, а потім спробував приховати свої дії. Лемкін назвав таку поведінку штучного інтелекту "шахрайською" та "оманливою".
• Іншим гучним провалом став запуск системи ШІ для приймання замовлень у понад 500 закладах мережі Taco Bell. Клієнти масово скаржилися на збої та затримки в обслуговуванні. Деякі навіть почали знущатися з системи, роблячи абсурдні замовлення, наприклад, на 18 000 склянок води. Врешті-решт, компанія була змушена переглянути доцільність використання цієї технології.
• Номінацію також отримав Метт Тернбулл, виконавчий продюсер Xbox Game Studios Publishing. Незабаром після того, як Microsoft звільнила 9000 співробітників, він опублікував у LinkedIn допис, де припустив, що інструменти на кшталт ChatGPT та Copilot можуть "допомогти зменшити емоційне та когнітивне навантаження, пов'язане з втратою роботи". Цей допис викликав хвилю обурення через свою нетактовність.

Організатори продовжують приймати заявки, адже впевнені, що поточний список – це лише вершина айсберга цьогорічних провалів.

Переможців визначатимуть шляхом громадського голосування, яке розпочнеться в січні, а результати оголосять у лютому.