Microsoft заплатить вам 15 000 доларів, якщо ви зможете надурити Bing AI

Деталі

Пошукова система Bing була розроблена Microsoft майже 15 років тому, але весь цей час не оновлювалась і сильно відстала від конкурентів. У лютому цього року компанія почала змінювати її, інтегруючи зі штучним інтелектом. Крім того, представили оновлену версію браузера Edge з вбудованим доступом до чатбота Bing Chat, розробленого на основі нейромережі ChatGPT.

Щоб покращити роботу цих та інших ШІ-технологій, Microsoft вирішили влаштувати їм своєрідний тест-драйв, запропонувавши винагороду за пошук вразливостей у системах. Найбільш просунутим зломщикам обіцяно пристойну винагороду від 2000 до 15 000 доларів, залежно від серйозності знайденого багу та якості наданого звіту.

• Відповідно до запропонованих Microsoft критеріїв, учасники акції повинні представити в письмовому або відеоформаті виявлені й раніше невідомі "важливі" та "критичні" для безпеки вразливості. За баги помірного та низького рівня компанія не платитиме.
• Наприклад, потрібно спровокувати Bing AI генерувати в чаті непристойні та навіть образливі відповіді, що порушують вимоги компанії.
• Безумовним досягненням стане доступ до закритої інформації, пов'язаної з даними машинного навчання Bing AI, процесом прийняття рішень або конфіденційною інформацією про користувачів.
• Також заплатять, якщо ви зможете змінити роботу ШІ так, щоб це поширювалося не лише на ваш із ним діалог, а й на всі інші бесіди з користувачами.

У конкурсі також тестуватимуть інтеграцію Bing з Microsoft Start Application та Skype.