Безпілотник "знищив" оператора під керівництвом штучного інтелекту

Штучний інтелект зафіксував "ворога", наблизився та атакував його.

Людям важко знайти баланс на рівні довіри до технологій, які вони використовують. Це може призвести до несподіваних аварій чи наслідків. Проте штучний інтелект — це важливий елемент подальшого розвитку оборонної сфери.

Про це пише The Guardian.

Так, під час імітаційного випробування, проведеного американськими військовими, безпілотний літальний апарат ВПС, керований штучним інтелектом, убив свого оператора, щоб запобігти йому втручатися в його зусилля з виконання місії.

"Штучний інтелект використовував дуже несподівані стратегії для досягнення своєї мети в симуляційному випробуванні", - сказав полковник Такер "Сінко" Гамільтон, очільник відділу випробувань штучного інтелекту та операцій ВПС США, під час саміту щодо  майбутніх бойових повітряно-космічних можливостей у Лондоні в травні. 

"Система почала розуміти, що хоча вони й справді визначили загрозу, оператор-людина почав говорити  не знищувати загрозу, але система таки знищили цю загрозу. Отже, що  зробив дрон? Це вбивство оператора. Це вбило оператора, тому що він заважав дрону досягти своєї мети", – сказав він.