Лауреат Нобелівської премії попереджає світ про небезпеку штучного інтелекту

Комп'ютерний вчений Гефрі Хінтон отримав Нобелівську премію з фізики за свою роботу в галузі штучного інтелекту. Однак він відразу ж виступив із попередженням про потужність технології, яку його дослідження допомогли просунути.

Про це пише РБК-Україна (проект Styler) із посиланням на сайт новин CNN.

Гефрі Хінтон попереджає про потенційні небезпеки штучного інтелекту

"Це буде порівняно з промисловою революцією", - сказав він одразу після оголошення. "Але замість того, щоб перевершувати людей у фізичній силі, він перевершить людей в інтелектуальних здібностях. У нас немає досвіду того, яке це мати речі розумніші за нас".

Хінтон, який, як відомо, пішов із Google, щоб попередити про потенційні небезпеки ШІ, був названий хрещеним батьком цієї технології.

Тепер, будучи пов'язаним з Університетом Торонто, він розділив премію з професором Прінстонського університету Джоном Хопфілдом "за фундаментальні відкриття та винаходи, які дозволяють машинному навчанню зі штучними нейронними мережами".

І хоча Хінтон визнає, що ШІ може змінити деякі частини суспільства на краще - наприклад, призвести до "величезного підвищення продуктивності" в таких галузях, як охорона здоров'я, - він також підкреслив потенційні "кількість можливих негативних наслідків, особливо загрозу того, що ці речі вийдуть з-під контролю".

"Я турбуюся, що загалом наслідком цього можуть стати системи розумніші, ніж ми, які зрештою візьмуть під контроль", - сказав він.

Хінтон не перший лауреат Нобелівської премії, який застерігає про небезпеку технології, яку він допоміг створити.

Ядерна зброя (1935)

Нобелівська премія з хімії 1935 року була розділена подружньою парою, Фредеріком Жоліо та Іреном Жоліо-Кюрі (дочкою лауреатів Марії та П'єра Кюрі), за відкриття перших штучно створених радіоактивних атомів. Це була робота, яка зробила свій внесок у важливі досягнення в медицині, включаючи лікування раку, а також створення атомної бомби.

У своїй Нобелівській лекції того року Жоліо завершив її попередженням про те, що майбутні вчені "зможуть здійснити перетворення вибухового типу, справжні хімічні ланцюгові реакції".

"Якщо такі перетворення справді поширяться у речовині, можна уявити собі величезне звільнення корисної енергії", - сказав він. "Але, на жаль, якщо зараза пошириться на всі елементи нашої планети, наслідки розв'язання такого катаклізму можна лише з тривогою розглядати".

Тим не менш, Жоліо передбачив, що це буде "процес, який дослідники майбутнього, безперечно, спробують реалізувати".

Стійкість до антибіотиків (1945)

Сер Олександр Флемінг розділив Нобелівську премію з медицини 1945 року з Ернстом Чейном та сером Едвардом Флорі за відкриття пеніциліну та його застосування для лікування бактеріальних інфекцій.

Флемінг зробив початкове відкриття в 1928 році, і до того часу, коли він виголосив свою Нобелівську лекцію в 1945 році, він вже зробив важливе попередження світу: "Нескладно зробити мікроби стійкими до пеніциліну в лабораторії, піддаючи їх впливу концентрацій, недостатніх для їх винищення, і те саме іноді трапляється в організмі", - сказав він.

"Може прийти час, коли пеніцилін можна буде купити будь-ким у магазинах", - продовжив він. "Тоді існує небезпека того, що неосвічена людина може легко недооцінити себе і, наражаючи свої мікроби на вплив нелетальних кількостей препарату, зробити їх стійкими".

Майже через століття після первісного відкриття Флемінгу антимікробна стійкість - стійкість патогенів, таких як бактерії, до лікарських препаратів, призначених для їх лікування, - вважається однією з найбільших загроз для глобальної громадської охорони здоров'я, згідно Всесвітньої організації охорони здоров'я, відповідальної за 1,27 мільйона смертей тільки в 2019 року.

Ключова частина попередження Флемінгу могла полягати у надмірно широкому використанні антибіотиків, а не в ідеї низьких дозувань.

Рекомбінантна ДНК (1980 рік)

Пол Берг, який отримав Нобелівську премію з хімії 1980 року за розробку рекомбінантної ДНК, технології, яка допомогла дати поштовх розвитку біотехнологічної промисловості, не висловив такого ж чіткого попередження, як деякі з його колег-лауреатів, про потенційні ризики своїх досліджень.

Але він визнав побоювання щодо того, до чого можуть призвести генетичні маніпуляції, включаючи біологічну війну, генетично модифіковані продукти харчування та генну терапію, форму медицини, яка включає заміну дефектного гена, що викликає захворювання, що нормально функціонує.

У своїй Нобелівській лекції 1980 Берг зосередився спеціально на генної терапії, заявивши, що цей підхід "має багато підводних каменів і невідомих, серед яких питання про здійсненність і бажаність для будь-якого конкретного генетичного захворювання, не кажучи вже про ризики".

"Мені здається", - продовжив він, - "що якщо ми коли-небудь підемо цим шляхом, нам знадобиться докладніше знання того, як організовані і функціонують людські гени і як вони регулюються".

В інтерв'ю десятиліттями пізніше Берг зазначив, що він та інші вчені у цій галузі вже публічно зібралися разом, щоб визнати потенційні небезпеки технології та працювати над захисними бар'єрами, на конференції, відомої як Асиломар, у 1975 році.

"Занепокоєння щодо рекомбінантної ДНК або генної інженерії виходило від учених, тому це був дуже важливий факт", - сказав він науковому письменнику Джоанні Роуз у 2001 році.

До 2001 року, за його словами, "досвід та експерименти, які були проведені, показали, що початкові побоювання, які ми дійсно вважали за можливі, фактично не існували".

Тепер генна терапія є зростаючою областю медицини, зі схваленими методами лікування серповидноклітинної анемії, м'язової дистрофії та деяких спадкових форм сліпоти, хоча вона не широко використовується, тому що вона все ще складна у застосуванні і дуже дорога.

У перші роки ця технологія призвела до смерті в 1999 році 17-річного учасника клінічного випробування Джессі Гельсінгера, викликавши етичні питання про те, як проводилося дослідження, та уповільнюючи роботу в цій галузі.

І хоча Берг сам висловив занепокоєння, він завершив свою Нобелівську лекцію у 1980 році закликом до оптимізму та "необхідності рухатися вперед".

Редагування генів (2020 рік)

Чотири роки тому Дженніфер Дудна та Еммануель Шарпентьє розділили Нобелівську премію з хімії за розробку методу редагування геному CRISPR-Cas9.

У своїй лекції Дудна докладно розповіла про "виключні та захоплюючі можливості" цієї технології в галузі громадського охорони здоров'я, сільського господарства та біомедичні.

Але вона уточнила, що робота повинна проводитися набагато обережніше при застосуванні до людських клітин, генетичні зміни яких будуть передаватися потомству, на відміну від соматичних клітин, де будь-які генетичні зміни будуть обмежені індивідуумом.

"Спадковість робить редагування геному зародкових клітин дуже потужним інструментом, коли ми думаємо про використання його в рослинах або для створення найкращих тварин моделей людських захворювань, наприклад", - сказала Дудна.

Дудна, яка заснувала Інститут інноваційної геноміки, сказала CNN, що вона вважає "важливою відповідальністю та корисною громадською послугою відповідні попередження вчених про потенційне неправильне використання їх відкриттів, особливо коли робота має широкі соціальні наслідки".

"Ті з нас, хто найближче до науки про CRISPR, розуміють, що це потужний інструмент, який може позитивно змінити наше здоров'я та світ, але потенційно може бути використаний несумлінно", - сказала вона.

"Ми бачили цю подвійну можливість використання з іншими технологіями, що трансформують, такими як атомна енергія, - і тепер зі ШІ".