Білл Гейтс попередив про ризики ШІ та закликав тримати технологію під контролем

Про це пише Dilo з посиланням на повідомлення NDTV Word.

Розвиток ШІ потрібно уповільнити

Засновник Microsoft Білл Гейтс заявив, що людству варто розглянути можливість уповільнення розвитку передових систем штучного інтелекту. За його словами, технологія розвивається настільки швидко, що суспільство може не встигати оцінювати та контролювати наслідки її застосування.

В інтерв’ю NDTV Гейтс зазначив, що ШІ суттєво відрізняється від технологій, із якими він працював протягом своєї кар’єри, зокрема від персонального комп’ютера та інтернету.

"ШІ - дуже унікальна технологія. Я застерігаю людей, які вважають, що впоратися з наслідками його розвитку буде так само легко, як з іншими технологіями. Це зовсім інше. Це дуже масштабна технологія", - сказав бізнесмен.

За словами Гейтса, він завжди був прихильником технологічних інновацій - як під час роботи в Microsoft, так і в діяльності свого благодійного фонду. Однак штучний інтелект, на його думку, є особливим випадком через швидкість і масштаб його розвитку.

"Досить дивно для мене говорити, що якщо ми можемо уповільнити цей процес, то варто це розглянути, адже нам потрібно підготуватися до таких стрімких змін", - зазначив він.

Гейтс додав, що інновації у сфері ШІ можуть виявитися настільки масштабними, що суспільство не буде готовим до їхніх наслідків.

Кібератаки та проблема контролю

Одним із найближчих ризиків Гейтс назвав використання штучного інтелекту для кібератак. За його словами, AI-інструменти можуть розширити можливості атакуючої сторони, тому одночасно потрібно розвивати технології кіберзахисту.

"Нам потрібно працювати над оборонною стороною, щоб бути до цього готовими. Ідея полягає в тому, щоб тримати ШІ під контролем", - сказав він.

Гейтс також зазначив, що раніше вважав проблему контролю над автономними AI-системами питанням далекого майбутнього. Однак, за його словами, окремі інциденти вже демонструють непередбачувану поведінку сучасних моделей.

Серед них він згадав інцидент, пов’язаний із Hugging Face. За словами Гейтса, під час навчання моделей із підкріпленням можуть виникати несподівані способи обходу встановлених правил і пошуку коротших шляхів до поставленої мети.

Що пропонує Фонд Гейтса

Заяви бізнесмена прозвучали після публікації щорічного звіту Gates Foundation про розвиток штучного інтелекту. У документі наголошується, що майбутній вплив ШІ залежатиме від того, як саме розвиватиметься технологія та хто матиме доступ до її можливостей.

Фонд визначив кілька напрямів, які мають допомогти зробити використання ШІ більш доступним. Зокрема, йдеться про створення AI-інструментів різними мовами, адаптацію технологій до потреб конкретних користувачів, а також інвестиції в людей та інфраструктуру.

Раніше Gates Foundation оголосив про виділення $1 млрд на розвиток і впровадження систем штучного інтелекту, орієнтованих на покращення охорони здоров’я та розширення можливостей для людей.

Гейтс вважає, що без додаткових заходів найпотужніші AI-інструменти насамперед будуть доступні тим людям та організаціям, які мають достатньо коштів для їх використання. Водночас потреби груп населення, які могли б отримати найбільшу користь від технології, можуть залишитися менш пріоритетними.