Дослідники отримали доступ до систем OpenAI завдяки ШІ-моделям конкурента Anthropic

Дослідники з невеликої компанії з кібербезпеки Hacktron AI отримали доступ до внутрішньої інформації стартапу OpenAI завдяки моделям на основі штучного інтелекту його конкурента Anthropic.

Про це повідомляє Financial Times.

Як зазначається, троє дослідників із невеликої компанії у сфері кібербезпеки Hacktron AI отримали від OpenAI винагороду в розмірі 6500 дол. у межах програми коли технологічні компанії платять етичним хакерам за перевірку захищеності своїх систем.

За даними видання, вони скористалися вразливістю в налаштуваннях форуму спільноти OpenAI (який розміщено на платформі стороннього розробника Discourse), щоб отримати доступ до внутрішніх облікових даних, а згодом - до облікового запису ChatGPT, який належав співробітнику OpenAI.

Цей обліковий запис мав доступ до внутрішнього коду через GitHub.

«Ми вдячні дослідникам за те, що вони зв’язалися з нами й поділилися результатами своєї роботи», - заявили в OpenAI, додавши, що проблему вже усунули.

Компанія Anthropic відмовилася від коментарів, а представники Hacktron AI не відповіли на запит.

Як повідомляв Укрінформ, генеральний директор компанії Anthropic Даріо Амодей закликав компанії, що займаються штучним інтелектом, уповільнити темпи нарощування можливостей нових моделей на тлі дедалі більших побоювань щодо зловживання ними.

Президент США Дональд Трамп відкинув заклики керівники провідних технологічних компаній сповільнити розвиток ШІ, який може загрожувати людству.