ChatGPT допоміг підозрюваному у підготовці до вибуху Cybertruck біля готелю Трампа

За інформацією поліції Лас-Вегаса, підозрюваним є 27-річний солдат армії США Меттью Лівелсбергер, який, за попередньою інформацією, мав "можливий маніфест", збережений на телефоні, повідомляє 24 Канал з посиланням на The Verge.

Також було оприлюднено відео, на якому підозрюваний готується до вибуху: зупиняє пікап, поливає його пальним, а потім під’їжджає до готелю.

Поліція повідомила, що підозрюваний вів журнал спостережень, але при цьому не мав кримінального минулого, не перебував під слідством чи нагляданням.

Використання ChatGPT

Ключовою деталлю справи стали запити Лівелсбергера до ChatGPT, зроблені за кілька днів до вибуху. У них він запитував про виготовлення вибухових пристроїв, їх детонацію, способи підриву за допомогою пострілу, а також про легальні місця придбання зброї, вибухових матеріалів і феєрверків уздовж маршруту.

Речниця OpenAI Ліз Буржуа прокоментувала цей випадок:

Ми засмучені цією подією та прагнемо, щоб ШІ використовувався відповідально. Наші моделі розроблені для того, щоб відмовляти у відповідях на шкідливі інструкції та мінімізувати створення шкідливого контенту. У цьому випадку ChatGPT надав лише загальнодоступну інформацію та попередження проти незаконної діяльності. Ми співпрацюємо з правоохоронними органами, щоб допомогти в розслідуванні.

Причини вибуху

За попередніми висновками, вибух мав характер дефлаграції (повільного займання), а не детонації високих вибухових речовин, яка спричинила б більші руйнування. Поліція все ще розглядає можливість інших причин, наприклад, електричного короткого замикання.

Проте, одна з версій, яка відповідає запитам підозрюваного та наявним доказам, полягає в тому, що спалах від пострілу запалив пари пального або ґноти феєрверків у вантажівці, що спричинило більший вибух.

Розслідування довело, що використання генеративного ШІ в таких інцидентах більше не є гіпотетичним. Хоча запити, зроблені Лівелсбергером, містили загальнодоступну інформацію, їх відстеження та використання як доказу викликає питання про безпеку, конфіденційність і надійність інструментів ШІ.