Чат-бот Meta заперечував замах на Трампа: у корпорації пояснили це "галюцинаціями" ШІ

Про це пише DW.

Після замаху на Трампа під час мітингу користувачі Meta AI ставили питання чат-боту щодо стрільби. Однак ШІ відповідав довгими довідками про минуле й заперечував замах. Водночас фото Трампа того дня з піднятим кулаком соцмережі Instagram i Facebook маркували як підроблене.

Віцепрезидент Facebook із глобальної політики Джоель Каплан розповів, що такі відповіді чат-боту спричинені "галюцинаціями" штучного інтелекту, додавши, що в цьому не було "злого наміру".

За його словами, ШІ працює з величезним масивом інформації, накопиченої за багато років, тому йому важко аналізувати термінові новини. Через це керівництво Meta AI заборонило писати на тему замаху на Трампа. Згодом заборону зняли, однак чат-бот мовчав на запити користувачів на цю тему або ж заперечував стрілянину.

"У невеликій кількості випадків Meta AI продовжував давати неправильні відповіді, іноді стверджуючи, що події не було, - над цим ми вже зараз працюємо. Ці типи відповідей називаються галюцинаціями, це проблема всієї галузі, ми бачимо її в усіх системах ШІ-генерації. Це проблема того, як ШІ обробляє події реального часу, які перебувають у розвитку, і яка зберігається. Як і всі інші системи ШІ-генерації, моделі можуть видавати неточні або недоречні дані", - пояснив Каплан.

Водночас він прокоментував маркування фотографій Трампа з піднятим кулаком як підроблені. Віцепрезидент розповів, що в інтернеті поширили фейкове зображення з події, де співробітникам секретної служби США домалювали усмішки. Потім Meta позначила фото як підроблене, однак ШІ почав блокувати всі схожі кадри, зокрема й оригінал.

Замах на Трампа

13 липня у штаті Пенсільванія під час мітингу на кандидата в президенти США Дональда Трампа було скоєно замах. Після звуків стрілянини його евакуювали зі сцени зі слідами крові на обличчі.

Директорка Секретної служби США Кімберлі Чітл визнала провал у роботі охорони Трампа, а згодом подала у відставку. 

25 липня ФБР під час аналізу ноутбука підозрюваного у замаху виявило, що він шукав деталі вбивства ексочільника США Джона Кеннеді.

Згодом очільник ФБР Крістофер Рей заявив, що не впевнений, що в Трампа під час мітингу влучили саме кулею або осколком. 

У Федеральному бюро розслідувань Сполучених Штатів Америки підтвердили, що в кандидата у президенти Дональда Трампа під час мітингу 13 липня влучили кулею або її частиною.

27 липня Трамп заявив, що планує повернутися в Батлер у штаті Пенсільванія, де на експрезидента було скоєно замах, для проведення мітингу для вшанування убитого прихильника та поранених під час стрілянини.