Дрон зі штучним інтелектом “вбив” свого оператора – ЗМІ

Такер Сінко Гамільтон підкреслює, що штучний інтелект “дуже крихкий”, тобто його легко обдурити або й маніпулювати ним.

Безпілотний літальний апарат ВПС, керований штучним інтелектом, під час імітаційного випробування, проведеного американськими військовими, убив свого оператора, щоб той не зміг втручатися в його виконання місії. Про це британське видання The Guardian.

Штучний інтелект (ШІ) використовував “дуже несподівані стратегії для досягнення своєї мети” в симуляційному випробуванні, розповів полковник Такер Сінко Гамільтон, начальник відділу випробувань штучного інтелекту та операцій ВПС США.

Гамільтон описав змодельований тест, під час якого безпілотнику, керованому штучним інтелектом, було рекомендовано знищити системи протиповітряної оборони противника. БПЛА атакував усіх, хто заважав цьому наказу.

Гамільтон, який є пілотом-випробувачем винищувача, застеріг від надто покладатися на штучний інтелект і навів приклад, як американці нещодавно використали ШІ для керування винищувачем F-16.

Минулого року в інтерв’ю Defence IQ Гамільтон сказав, що “ШІ — це не примха, ШІ назавжди змінює наше суспільство та нашу армію”.

“ШІ також дуже крихкий, тобто його легко обдурити та/або маніпулювати. Нам потрібно розробити способи зробити штучний інтелект більш надійним і краще розуміти, чому програмний код приймає певні рішення – те, що ми називаємо можливістю пояснення ШІ”, – вважає полковник. 

Нагадаємо, компанія Adobe у вівторок, 23 травня, заявила, що додає технологію штучного інтелекту для створення зображень у Photoshop.