Перша команда безпеки ШІ в Китаї: ByteDance шукає дослідників у трьох країнах

На тлі посилення уваги до безпеки штучного інтелекту в Китаї ByteDance, власник TikTok, створила в дослідницькому підрозділі ШІ Seed команду з узгодження та готовності до ризиків технології. Компанія оголосила глобальний набір десяти дослідників і пообіцяла довгостроково інвестувати в безпеку своїх дедалі потужніших моделей. Розробники запевнили, що новий підрозділ працюватиме над тим, щоб системи ШІ відповідали людським цілям і вимогам безпеки, зокрема під час виконання складних завдань, передає Reuters.

У Seed заявили, що в міру розвитку моделей безпека та узгодження їхньої поведінки з людськими цілями стають необхідними умовами для масштабного використання технології. Новій команді обіцяють обчислювальні потужності та дослідницькі ресурси, порівнянні з тими, які мають провідні команди розробки моделей. 

Компанія оприлюднила оголошення про набір працівників у своєму офіційному акаунті WeChat 14 жовтня. Вакансії передбачені в Пекіні, Шанхаї та Сан-Хосе в Каліфорнії.

Дослідження охоплюватимуть навчання моделей із дотриманням вимог безпеки, автоматизоване тестування вразливостей, розробку інструментів для моніторингу й пояснення поведінки систем, а також створення середовищ для перевірки ШІ-агентів. Окремим напрямом стане підготовка до нових ризиків, які можуть виникати в міру розвитку технологій.

Seed також планує залучати незалежних фахівців для тестування та співпрацювати з університетами й дослідницькими установами. Перевірки безпеки мають супроводжувати всі основні етапи роботи з моделями — від навчання й оцінювання до розгортання.

Як зазначає Reuters, оголошення ByteDance є рідкісним публічним прикладом того, як великий китайський розробник ШІ створює окремий підрозділ для роботи з безпекою передових моделей. Державне видання The Paper повідомило, що Seed стала першою китайською передовою лабораторією ШІ, яка формує окрему команду з безпеки та узгодження.

Цей крок відбувається на тлі дискусій між США та Китаєм про захисні механізми для ШІ, ризики безпеки й обмін інформацією про серйозні інциденти. Водночас обидві країни продовжують конкурувати за лідерство в розробці передових систем.