ШІ зламав ШІ: Claude допоміг дослідникам проникнути в системи OpenAI

Дослідники з Hacktron AI за допомогою ШІ-моделі Claude виявили спосіб проникнення в системи OpenAI. Вони працювали в межах програми пошуку вразливостей компанії та після дослідження передали результати OpenAI. За знайдені проблеми стартап отримав $6500. Про це повідомляє The Wall Street Journal.

Фахівці використали дві вразливості, щоб отримати доступ до кількох акаунтів співробітників OpenAI у ChatGPT. Один із них був пов’язаний із корпоративним GitHub, що відкрило дослідникам доступ до внутрішнього коду компанії.

Початковою точкою атаки стала помилка в сторонньому програмному забезпеченні Discourse, яке OpenAI використовує для форуму. Через спеціально підготовлене зображення HEIF/HEIC дослідники змогли скористатися вразливістю в бібліотеці libheif і отримати контроль над сервером.

Цікаво, що Claude Opus 4.8 спочатку не зміг створити робочий експлойт. Після виходу Opus 5 модель виконала це завдання за кілька годин. OpenAI та Discourse виправили знайдені проблеми, а дослідники зазначають, що розвиток ШІ скорочує час і рівень спеціальних знань, необхідних для пошуку кіберуразливостей.

• Нагадаємо, що китайські відкриті моделі наблизилися до флагманів США, але коштують у рази дешевше. 
• українці можуть пройти оплачуване стажуванняз ШІ в Preply.
• На початку червня 2026 року американська компанія Anthropic, розробник штучного інтелекту Claude, закликала пригальмувати розвиток ШІ, попередивши, що він може вийти з-під контролю людини.
• На початку вересня один із дослідників Anthropic публічно оголосив про звільнення, звинувативши Anthropic та OpenAI (де він працював раніше) у безвідповідальному підході до створення дедалі потужніших ШІ-систем.
• Після цього гендиректор Anthropic Даріо Амодеї закликав уповільнити розробку ШІ-моделей, щоб "зменшити ризик того, що щось піде вкрай невдало". Його підтримав гендиректор OpenAI Сем Альтман.
• Президент США Дональд Трамп у відповідь відкинув заклики до суворішого регулювання штучного інтелекту й закликав "не вбивати курку, яка несе золоті яйця".