Генеральный директор Nvidia пригрозил прекратить поставки чипов разработчикам опасного ИИ

Генеральный директор Nvidia Дженсен Хуанг заявил, что компания могла бы прекратить поставки чипов клиентам, которые безответственно разрабатывают опасные системы искусственного интеллекта. В то же время он считает, что опасения относительно рисков этой технологии частично преувеличены, а сам ИИ можно контролировать и безопасно внедрять. Об этом Хуанг рассказал в интервью Bloomberg.

Отвечая на вопрос журналистки Эмили Чанг о том, прекратил бы Хуанг сотрудничество с разработчиком опасного ИИ, он назвал такой сценарий гипотетическим, но подтвердил, что это возможно. Он добавил: «Однако прежде чем прибегать к таким мерам, стоит провести диалог. Мы не управляем чужими компаниями, и существуют определенные пределы того, насколько мы можем оценивать использование нашей технологии другими фирмами. Ведь наша технология — универсальна».

Nvidia является ведущим поставщиком ускорителей, необходимых для обучения и работы моделей ИИ. Из-за этого компания оказалась в центре дискуссий о рисках, связанных со всё более мощными системами, и о возможности потери контроля над ними.

Хуанг назвал опасения по поводу ИИ типичными «трудностями роста» для отрасли, которая развивается чрезвычайно быстро. По его словам, часть проблем возникает из-за того, что молодые компании ещё учатся ответственно управлять бизнесом и нести ответственность за последствия своих разработок.

«Создание компании предполагает определенную подотчетность и ответственность — качества, которые эти компании только начинают осваивать в процессе своего развития», — пояснил Хуанг и заявил, что часть опасений по поводу ИИ является «самосозданной», а отрасль недостаточно хорошо объясняет обществу преимущества этой технологии.

Руководитель Nvidia также считает, что искусственный интеллект можно использовать для контроля над другими системами ИИ. По его мнению, отрасли необходимо ускорить разработку инструментов мониторинга и интегрировать их в соответствующие системы. Об этом ранее заявлял и автор книги «Суперинтеллект» Ник Бостром.

Отдельно Хуанг прокомментировал опасения относительно возможного «пузыря» на рынке искусственного интеллекта. В день, когда акции Nvidia и других производителей чипов возглавили падение на американском фондовом рынке, он заявил, что спрос на инфраструктуру для ИИ еще долгое время будет превышать предложение.

«В конечном итоге спрос и предложение уравновесятся, но не сегодня», — подытожил Хуанг.

Nvidia также инвестирует в исследования по безопасности ИИ в Великобритании. Компания планирует выделить на эти цели 250 миллионов долларов в течение пяти лет, предоставляя исследователям доступ к мощным вычислительным системам. В работе примут участие, в частности, Оксфордский университет и Университетский колледж Лондона, где будут изучать механизмы защиты и способы контроля над ИИ-агентами.

Ранее Хуанг отверг апокалиптические сценарии развития искусственного интеллекта, оценив вероятность конца света в 2030 году в 0%. Он выступил против замедления разработок или введения новых регуляторных ограничений, заявив, что безопасностью технологии можно эффективно управлять, если компании не будут выпускать на рынок недоработанные продукты.