Первая команда по безопасности ИИ в Китае: ByteDance ищет исследователей в трёх странах

На фоне растущего внимания к вопросам безопасности искусственного интеллекта в Китае компания ByteDance, владелец TikTok, создала в исследовательском подразделении Seed, занимающемся ИИ, команду по координации и обеспечению готовности к рискам, связанным с этой технологией. Компания объявила о глобальном наборе десяти исследователей и пообещала в долгосрочной перспективе инвестировать в безопасность своих все более мощных моделей. Разработчики заверили, что новое подразделение будет работать над тем, чтобы системы ИИ соответствовали человеческим целям и требованиям безопасности, в частности при выполнении сложных задач, передает Reuters.

В Seed заявили, что по мере развития моделей безопасность и согласованность их поведения с человеческими целями становятся необходимыми условиями для масштабного использования технологии. Новой команде обещают вычислительные мощности и исследовательские ресурсы, сопоставимые с теми, которыми располагают ведущие команды по разработке моделей.

Компания опубликовала объявление о наборе сотрудников в своем официальном аккаунте WeChat 14 октября. Вакансии предусмотрены в Пекине, Шанхае и Сан-Хосе в Калифорнии.

Исследования будут охватывать обучение моделей с соблюдением требований безопасности, автоматизированное тестирование уязвимостей, разработку инструментов для мониторинга и объяснения поведения систем, а также создание сред для проверки ИИ-агентов. Отдельным направлением станет подготовка к новым рискам, которые могут возникать по мере развития технологий.

Seed также планирует привлекать независимых специалистов для тестирования и сотрудничать с университетами и исследовательскими учреждениями. Проверки безопасности должны сопровождать все основные этапы работы с моделями — от обучения и оценки до развертывания.

Как отмечает Reuters, объявление ByteDance является редким публичным примером того, как крупный китайский разработчик ИИ создает отдельное подразделение для работы с безопасностью передовых моделей. Государственное издание The Paper сообщило, что Seed стала первой китайской передовой лабораторией ИИ, которая формирует отдельную команду по безопасности и согласованию.

Этот шаг происходит на фоне дискуссий между США и Китаем о защитных механизмах для ИИ, рисках безопасности и обмене информацией о серьезных инцидентах. В то же время обе страны продолжают соперничать за лидерство в разработке передовых систем.