Китай використовував ШІ від американської компанії Meta у військових цілях: чим це загрожує США

Інструмент ChatBIT, заснований на ШІ-моделі Llama від Meta, був створений для опрацювання розвідданих і отримання відповідей на запитання у військовій сфері.

Китайські науково-дослідні інститути, пов'язані з Народно-визвольною армією Китаю, використовували загальнодоступну модель Llama від компанії Meta для розробки інструменту штучного інтелекту для потенційного військового застосування. Про це пише Reuters із посиланням на три наукові статті та аналітиків.

За даними агентства, китайські вчені використовували ранню версію Llama від компанії Meta як основу для інструменту під назвою ChatBIT. Йдеться про військовий інструмент на основі ШІ для збору та обробки розвідданих, а також надання точної та надійної інформації для ухвалення оперативних рішень.

У статті, розглянутій журналістами, йдеться про те, що ChatBIT було тонко налаштовано й "оптимізовано для діалогу та завдань із відповідей на запитання у військовій сфері". Дослідники виявили, що він перевершує деякі інші моделі ШІ, які приблизно на 90% так само ефективні, як ChatGPT-4 від OpenAI. Водночас невідомо, чи була модель ШІ впроваджена в експлуатацію.

"Уперше з'явилися вагомі докази того, що військові експерти НВАК у Китаї систематично вивчають і намагаються використати можливості відкритих програм магістратури права, особливо Meta, у військових цілях", — зазначила науковий співробітник Фонду Джеймстауна Санні Чунг.

У згаданій статті також ідеться, що в майбутньому ChatBIT може використовуватися не тільки для аналізу розвідданих, а й для стратегічного планування, імітаційного навчання та ухвалення командних рішень. У виданні не змогли визначити можливості та обчислювальну потужність ChatBIT, але дослідники зазначили, що модель містить лише 100 000 записів військових діалогів, що відносно мало порівняно з іншими LLM.

"Між кращими вченими Китаю і кращими вченими США в галузі ШІ ведеться занадто тісна співпраця, щоб їх можна було виключити зі сфери розробок", — зазначив провідний аналітик Центру безпеки і нових технологій (CSET) при Джорджтаунському університеті Вільям Ханнас.

Як зазначають у виданні, Meta забороняє використання своїх моделей ШІ "у військових цілях, у ядерній промисловості або у шпигунстві" та інших видах діяльності, що підпадають під експортний контроль Міністерства оборони США, а також для розроблення зброї та контенту, призначеного для "підбурювання і пропаганди насильства".

Водночас компанія не може повністю забезпечити дотримання цих обмежень, оскільки моделі ШІ Meta є публічними. Представник компанії сказав у коментарі агентству, що вжито заходів для запобігання неправомірному використанню.

"У глобальній конкуренції в галузі штучного інтелекту передбачувана роль єдиної і застарілої версії американської моделі з відкритим вихідним кодом не має значення, коли ми знаємо, що Китай уже інвестує понад трильйон доларів, щоб перевершити США в галузі штучного інтелекту", — додали в Meta.