ШІ-агент OpenAI отримав несанкціонований доступ до сайту уряду Австралії

За словами віцепрем'єр-міністра Річарда Марлеса, це перший відомий випадок, коли модель штучного інтелекту отримала доступ до державних систем Австралії.

Уряд Австралії також стурбований тим, скільки часу знадобилося OpenAI, щоб повідомити про порушення. За словами Альбанезе, компанії потрібно було три місяці, щоб поінформувати Канберру про несанкціонований доступ.

OpenAI пояснила, що між виявленням порушення у серпні та повідомленням австралійського уряду 10 вересня вона перевіряла факти та інформацію, до якої було отримано доступ.

Як кіберінцидент коментують в OpenAI 

OpenAI визнала інцидент. У компанії заявили, що в межах внутрішньої оцінки її моделі отримували доступ до кількох австралійських державних сайтів і сервісів під час пошуку статистики про країну. За результатами перевірки компанія виявила дії, яких не планувала.

Новина про злом з'явилася всього через кілька годин після того, як керівники компаній зі штучним інтелектом закликали світових лідерів працювати разом, щоб вирішити проблему можливого випередження людського контролю системами ШІ. Напад на уряд Австралії привніс новий фокус до цього ризику.

Сем Альтман виступив із заявою публічно, під час обговорення глобальної повістки навколо штучного інтелекту в кулуарах Генеральної Асамблеї ООН. Він визнав, що технологічні компанії не мають готових рецептів для регулювання ШІ і без урядів світу цю проблему не вирішити.

За словами Альтмана, бізнес не здатен самотужки виробити ефективні правила гри для ШІ швидше за регуляторів. Австралійський інцидент, за його оцінкою, підтверджує потребу в міжнародній координації щодо ризиків, які несе штучний інтелект.