Гендиректор Nvidia пригрозив припинити постачання чипів розробникам небезпечного ШІ

Генеральний директор Nvidia Дженсен Хуанг заявив, що компанія могла б припинити постачання чипів клієнтам, які безвідповідально розробляють небезпечні системи штучного інтелекту. Водночас він вважає, що побоювання щодо ризиків цієї технології частково перебільшені, а сам ШІ можна контролювати й безпечно впроваджувати. Про це Хуанг розповів в інтерв’ю Bloomberg.

Відповідаючи на запитання журналістки Емілі Чанг, чи припинив би Хуанг співпрацю з розробником небезпечного ШІ, він назвав такий сценарій гіпотетичним, але підтвердив, що це можливо. Він додав: «Проте, перш ніж вдаватися до таких кроків, варто провести діалог. Ми не керуємо чужими компаніями, і існують певні межі того, наскільки ми можемо оцінювати використання нашої технології іншими фірмами. Адже наша технологія — універсальна».

Nvidia є провідним постачальником прискорювачів, необхідних для навчання та роботи моделей ШІ. Через це компанія опинилася в центрі дискусій про ризики дедалі потужніших систем і можливість втрати контролю над ними.

Хуанг назвав занепокоєння щодо ШІ типовими «труднощами зростання» для галузі, яка розвивається надзвичайно швидко. За його словами, частина проблем виникає через те, що молоді компанії ще навчаються відповідально керувати бізнесом і відповідати за наслідки своїх розробок.

«Створення компанії передбачає певну підзвітність і відповідальність — якості, які ці компанії лише починають опановувати в процесі свого розвитку», — пояснив Хуанг та заявив, що частина побоювань щодо ШІ є «самостійно створеними», а галузь недостатньо добре пояснює суспільству переваги цієї технології.

Керівник Nvidia також вважає, що штучний інтелект можна використовувати для контролю за іншими системами ШІ. На його думку, галузі потрібно прискорити розробку інструментів моніторингу та інтегрувати їх у відповідні системи. Про це раніше заявляв і автор книги «Суперінтелект» Нік Бостром.

Окремо Хуанг прокоментував побоювання щодо можливої «бульбашки» на ринку штучного інтелекту. У день, коли акції Nvidia та інших виробників чипів очолили падіння на американському фондовому ринку, він заявив, що попит на інфраструктуру для ШІ ще тривалий час перевищуватиме пропозицію.

«Зрештою, попит і пропозиція збалансуються, але не сьогодні», — підсумував Хуанг.

Nvidia також інвестує в дослідження безпеки ШІ у Великій Британії. Компанія планує виділити на ці цілі 250 мільйонів доларів протягом п’яти років, надаючи дослідникам доступ до потужних обчислювальних систем. У роботі братимуть участь, зокрема, Оксфордський університет і Університетський коледж Лондона, де вивчатимуть механізми захисту та способи контролю над ШІ-агентами.

Раніше Хуанг відкинув апокаліптичні сценарії розвитку штучного інтелекту, оцінивши ймовірність кінця світу у 2030 році в 0%. Він виступив проти сповільнення розробок чи запровадження нових регуляторних обмежень, заявивши, що безпекою технології можна ефективно керувати, якщо компанії не випускатимуть на ринок сирі продукти.