Премія за "найдурніші" помилки ШІ: хто став першими номінантами на AI Darwin Awards

Для номінації на премію кандидати повинні відповідати низці критеріїв. Переможців обирають за допомогою процедури, що включає публічне голосування, експертні групи та іноді самі системи ШІ, повідомляють йдеться на сайті AI Darwin Awards.

"Оригінальна премія Дарвіна відзначала тих, хто "покращив генофонд, видаливши з нього себе" за допомогою вражаюче дурних вчинків. Ну, знаєте що? Люди еволюціонували! Ми настільки розвинені, що передали прийняття наших поганих рішень машинам", — зазначають автори ідеї.

Критерії висування на AI Darwin Awards:

• участь ШІ: кандидат повинен залучати у своїй роботі передовий штучний інтелект;
• катастрофічний потенціал: рішення має бути настільки недалекоглядним, що "майбутні історики використовуватимуть його як повчальну історію";
• бонус за гординю: вітаються твердження на кшталт "Що найгіршого може статися?" або "Штучний інтелект знає, що робить!";
• етичні сліпі зони: кандидат ігнорує тривожні попередження від фахівців з етики та кібербезпеки;
• амбіції: ідеальний номінант наразив на небезпеку не лише себе, а прагнув "глобального впливу".

Бонусні бали передбачені для тих, чий провал зі ШІ потрапив у заголовки міжнародних газет, спричинив крах ринків або вимагав прийняття нового законодавства. Також будуть враховуватись реакції кіберфахівців, спроби виправити промах ШІ за допомогою ШІ та навіть той факт, чи стала помилка мемом.

Наразі на сайті AI Darwin Awards вже є низка номінантів:

• мережа ресторанів Taco Bell запустила чат-ботів, які не розрізнили "додатковий соус" і "додатковий хаос" (гра слів англійською "extra sause" та "extra chaos");
• адвокат з Австралії подав до суду документи, згенеровані штучним інтелектом Claude, що містили чотири фейкові цитати;
• компанія OpenAI запустила ШІ-модель GPT-5 з системою захисту, яку зламали всього за кілька годин після релізу;
• продюсер Xbox Game Studios Publishing написав, що ШІ допоможе "зменшити емоційне та когнітивне навантаження, яке супроводжує втрату роботи" після масових звільнень через ШІ;
• фрілансер-письменник Марко Бускалья опублікував список рекомендованих книг, що існують лише в уяві штучного інтелекту;
• користувач Airbnb згенерував за допомогою ШІ фейкові фото тріщини на столику і вимагав $16 000 компенсації;
• Paradox.ai і McDonald’s запустили систему найму на базі ШІ, яку зламали паролем 123456.

Нагадаємо, ШІ некоректно передав слова президента США Дональда Трампа на зустрічі президентом України Володимиром Зеленським та європейськими лідерами.

Фокус також повідомляв, що чат-бот зі ШІ Gemini від Google почав генерувати повідомлення з самозневагою, звинувачуючи себе в неспроможності виконати завдання.