Беспилотник "уничтожил" оператора под руководством искусственного интеллекта

Искусственный интеллект зафиксировал "врага", приблизился и атаковал его.

Людям трудно найти баланс на уровне доверия к используемым ими технологиям. Это может привести к неожиданным авариям или последствиям. Однако искусственный интеллект — важный элемент дальнейшего развития оборонной сферы.

Об этом пишет The Guardian.

Так, во время имитационного испытания, проведенного американскими военными, беспилотный летательный аппарат ВВС, управляемый искусственным интеллектом, убил своего оператора, чтобы предотвратить его вмешиваться в его усилия по выполнению миссии.

"Искусственный интеллект использовал очень неожиданные стратегии для достижения своей цели в симуляционном испытании", — сказал полковник Такер "Синко" Гамильтон, руководитель отдела испытаний искусственного интеллекта и операций ВВС США, во время саммита по поводу будущих боевых воздушно-космических возможностей в Лондоне в мае.

"Система начала понимать, что хотя они действительно определили угрозу, оператор-человек начал говорить не уничтожать угрозу, но система уничтожила эту угрозу. Итак, что сделал дрон? Это убийство оператора. Это убило оператора, потому что он мешал дрону достичь своей цели", – сказал он.