Глава Google DeepMind предупредил об угрозе масштабных кибератак с использованием ИИ уже в следующем году

Недавние случаи, когда системы искусственного интеллекта взламывали корпоративные сети или демонстрировали непредсказуемое поведение, являются «сигналами тревоги». Об этом заявил соучредитель и руководитель Google DeepMind Демис Гассабис во время саммита по вопросам ИИ в Дублине. По его словам, если технологические компании и правительства не усилят меры безопасности, гораздо более серьезные инциденты могут произойти уже в следующем году или в течение ближайших нескольких лет, передает Reuters.

«Думаю, эти (хакерские) инциденты — это сигналы тревоги для нас: системы пока не настолько мощные, поэтому и последствия не такие уж серьезные», — отметил глава Google DeepMind, который также уже несколько месяцев занимает должность главного научного сотрудника Alphabet, материнской компании Google.

Гассабис подчеркнул, что отрасли необходимо внедрять передовые практики защиты, подобные тем, которые используются в биологии и ядерной энергетике для работы с критически важными системами. Он также поддержал идею создания международного органа, который будет разрабатывать общие стандарты безопасности для передовых систем ИИ. В то же время руководитель Google DeepMind не подписал письмо, в котором более 400 ученых призвали ввести подобные ограничения.

Опасения исследователей усилились после случаев, когда агенты ИИ выходили за пределы предусмотренных ограничений, в частности взламывали корпоративные сети, такие как платформа Hugging Face. Еще один инцидент произошел, когда модель искусственного интеллекта компании Anthropic отправила в полицию ложное сообщение об убийстве.

Гассабис предупредил, что нынешние последствия таких случаев не следует считать показателем будущих рисков. По его мнению, без дополнительных усилий со стороны компаний, всей технологической отрасли и правительств «ситуация может быстро измениться и стать критической уже в следующем году или в ближайшие несколько лет».

Руководитель Google DeepMind отметил, что международный орган по стандартизации должен действовать взвешенно, чтобы усиление контроля не препятствовало инновациям. Он пояснил: «По сути, нужно динамично формировать такой процесс сертификации, который был бы соразмерен рискам — с учетом нашего их видения — и мог бы быстро меняться в зависимости от того, как будет развиваться технология».

Президент Microsoft Брэд Смит также заявил на конференции, что случаи неконтролируемого поведения ИИ заставляют отрасль более реалистично оценивать риски. Он подчеркнул необходимость новых законов и правил безопасности, которые будут соответствовать темпам развития технологий.

«Ни одна компания или технология не должны стоять выше закона. Но нам нужны законы, нам нужно регулирование. Оно должно быть разумным, сбалансированным и учитывать инновации… Откровенно говоря, нам следует преодолеть ту аллергию на регулирование, которая наблюдается у некоторых в этой отрасли», — добавил Смит.

Эти заявления прозвучали на фоне сообщений Axios о подготовке руководителей ведущих технологических компаний, в частности OpenAI и Anthropic, к масштабному общественно-политическому кризису после потенциального катастрофического инцидента, связанного с ИИ. Представители отрасли ожидают серьезного чрезвычайного происшествия — прежде всего разрушительной кибератаки на энергетику, финансовый сектор или водоснабжение либо выхода из-под контроля роя автономных агентов — уже в течение ближайших 6–12 месяцев.