ИИ от OpenAI следил за разработчиком через камеру: Astra позвала его, чтобы он продолжил работу
ИИ от OpenAI следил за разработчиком через камеру: Astra позвала его, чтобы он продолжил работу

ИИ от OpenAI следил за разработчиком через камеру: Astra позвала его, чтобы он продолжил работу

GPT-6 Astra проверила взгляд через камеру, подала сигнал и вывела вопрос на экран.

Разработчик и основатель OpenCode Райан Фогель рассказал в социальной сети X, что модель искусственного интеллекта компании OpenAI GPT-6 Astra самостоятельно привлекла его внимание во время настройки Open Broadcaster Software (OBS). По его словам, система заметила через камеру, что он не смотрит на экран, после чего заставила Mac подать звуковой сигнал.

По словам разработчика, Astra в режиме среднего уровня рассуждения (medium reasoning) выполняла настройку программы OBS и должна была регулярно проверять новую конфигурацию. Для этого системе нужно было привлекать его внимание примерно каждые десять минут.

«Astra настраивала OBS и заметила, что я не реагирую, поэтому проверила через камеру, смотрю ли я на экран», — написал Фогель.

Когда система обнаружила, что пользователь отвернулся от монитора, она активировала звуковой сигнал на его Mac. После этого Astra вывела вопрос на экран, чтобы продолжить процесс настройки.

Фогель пояснил, что такое поведение было частью сценария работы системы. Он добавил: «Системе требуется моё внимание — например, каждые 10 минут для тестирования новой конфигурации, — поэтому она подаёт звуковые сигналы каждый раз, когда я ей нужен».

Ранее Astra присвоили самый высок — «критический» — уровень кибербезопасности из-за теоретической способности к автономным атакам на промышленные и военные системы. В ходе тестов на проникновение алгоритм продемонстрировал 100% эффективность против 5,5% у предыдущей флагманской модели GPT-5.6 Sol, из-за чего полный доступ к её инструментам ограничили программой Daybreak для верифицированных специалистов по безопасности.

Источник материала
loader
loader