Бойовий дрон у віртуальній місії нібито "вбив" оператора, який заважав йому отримувати бали

При моделюванні випробувальної місії, штучний інтелект (ШІ), який керував діями ударного дрона, "вбив" свого оператора, щоб той не заважав йому виконувати завдання. Про це повідомив глава відділу випробувань перспективних озброєнь ВПС США на міжнародній галузевій нараді в Лондоні, пише The Guardian.

Полковник ВПС США Такер "Сінко" Гамільтон, який керує відділом у ВПС США з випробувань та операцій з ШІ, розповів, що в ході віртуальної випробувальної місії штучний інтелект, якому було доручено знищення ворожої ЗРК, "убив" оператора, який заважав йому виконувати завдання.

За словами Гамільтона, безпілотнику під керівництвом ШІ було доручено знищити системи протиповітряної оборони супротивника. Система вірно визначала ціль, проте під час навчання періодично отримувала від оператора команду не проводити атаку. Оскільки ШІ "отримував бали" саме за знищення цілі, керуючий алгоритм вирішив спочатку знищити оператора, який йому нібито "заважав".

Після того, як у систему ввели заборону на "вбивство" оператора, керуючий дроном алгоритм знайшов іншу можливість – він почав знищувати ретранслятори, які передавали йому команди оператора.

У виступі Гамільтон зробив висновок, що при створенні подібних систем необхідно вводити до них етичні обмеження. "Ви не можете говорити про штучний інтелект, інтелект взагалі, машинне навчання та автономію (ухвалення рішень. – Ред), якщо ви ігноруєте питання про етику для ШІ", – сказав він.

Видання цитує виступ полковника за його викладом у блозі, проте заявляє, що не може підтвердити реальність описаної ситуації в офіційних джерелах. У ВПС США заперечують, що така симуляція проводилася, і припустили, що Гамільтон у виступі описав гіпотетичну ситуацію і його слова могли бути передані поза контекстом.

• У класичному фантастичному оповіданні Роберта Шеклі "Страж-птах" (Watchbird), вперше опублікованому в 1953 році, забезпечення безпеки суспільства доручають самостійно приймаючим рішення дронам з функцією самонавчання, які в результаті приходять до висновку, що небезпека для суспільства представляє життя як таке.
• 14 лютого повідомлялося, що в США вперше у світі випробували пілотування винищувача штучним інтелектом, спеціально обладнаний F-16 під його керуванням провів у повітрі 17 годин.