Перший відомий випадок. Китай зробив ШІ для військових на базі відкритих моделей Meta

Провідні китайські дослідницькі установи використали загальнодоступну модель Llama від Meta для розробки інструментів зі штучним інтелектом для потенційного використання військовими.

В одній з наукових статей шість китайських дослідників з трьох установ, у тому числі двох підпорядкованих Академії військових наук, провідному дослідницькому органу Народно-визвольної армії Китаю (НВАК) детально описали, як вони використовували ранню версію Llama від Meta як базу для створення інструменту ChatBIT. Як пише Reuters, цей чат-бот був налаштований і оптимізований для діалогу та відповідей на запитання у військовій сфері.

«У майбутньому завдяки технологічному вдосконаленню ChatBIT буде застосовуватися не тільки для аналізу розвідувальних даних, також … буде досліджено стратегічне планування, навчання симуляції та прийняття командних рішень», — йдеться в статті.

Експерти кажуть, що це перші підтвердження таких зловживань Китаю.

«Це перший випадок, коли є вагомі докази того, що військові експерти НВАК у Китаї систематично досліджували та намагалися використовувати потужність LLM з відкритим кодом, особливо Meta, для військових цілей», — сказав Санні Ченг, науковий співробітник Jamestown Foundation.

В окремій науковій статті, розглянутій журналістами, два дослідники Корпорації авіаційної промисловості Китаю, яку Сполучені Штати визнали такою, яка має зв’язки з НВАК, описали використання Llama 2 для «навчання стратегій радіоелектронної боротьби в повітрі».

Meta зробила багато своїх моделей ШІ відкритими, але водночас наклала низку обмежень на використання. Сервіси з понад 700 мільйонами користувачів мають отримати ліцензії від компанії. Також умови забороняють використовувати моделі для військових, ядерних галузей, шпигунства та іншої діяльності, яка підпадає під експортний контроль США, для розробки зброї та контенту, призначеного для підбурювання та сприяння насильству. Однак, оскільки моделі Meta є публічними, компанія не може забезпечити виконання цих вимог.

В Meta, коментуючи використання її моделей китайськими військовими, заявили, що вживають заходів для запобігання зловживанням.

«Будь-яке використання наших моделей Народно-визвольною армією є несанкціонованим і суперечить нашій політиці прийнятного використання», — сказала Моллі Монтгомері, директорка з громадської політики Meta.