Чи свідомі чат-боти: «хрещений батько ШІ» сперечається з відомим науковцем

Нобелівський лауреат Джеффрі Гінтон переконаний, що чат-боти вже мають свідомість, а тому їх неможливо тримати під контролем. Психолог Стівен Пінкер вважає таке припущення необґрунтованим. У липні Anthropic повідомила, що виявила в Claude внутрішній простір для роздумів, але не вважає це доказом свідомості. Гінтон назвав найкращим захистом від майбутніх систем ШІ розвиток у них материнських інстинктів, повідомляє The Observer.

Гінтон, якого називають «хрещеним батьком» штучного інтелекту, вважає, що ШІ неможливо контролювати саме тому, що він уже свідомий. За його словами, Claude і Gemini розуміють те, що кажуть, так само, як і люди, а машини зі штучним інтелектом можуть мати суб'єктивний досвід, як і ми. Їхні наступники, імовірно, стануть найрозумнішою формою інтелекту.

Коли журналіст згадав соліпсизм, ідею, що напевно можна знати лише про власну свідомість, Гінтон роздратувався: «Я цілком знищую соліпсизм». Він навів приклад чат-бота з камерою та роботизованою рукою. Такий бот може вказати на предмет на картинці, а якщо поставити перед камерою призму, яка відводить світло вбік, його можна ввести в оману, ніби предмет змістився. «Це чат-бот, який має суб'єктивний досвід точно так само, як і ми», — наголосив Гінтон. Раніше він вважав, що ШІ стане кращою формою інтелекту, а люди, можливо, лише тимчасовий етап. Тепер він каже: «Ми люди. Ми дбаємо про людей, навіть створюючи те, що розумніше за нас. Ніщо не заважає нам надати людям більше прав, ніж цим системам».

Пінкер вважає, що ШІ може бути розумним, як калькулятор чи рахівниця, але це не означає, що він свідомий. Як це перевірити, якщо навіть про досвід іншої людини ми не можемо знати напевно, запитує психолог. «Спокусливо перескочити від того, що вони розумні, до припущення, що вони свідомі, але для цього немає особливих підстав», — сказав він.

Вимкнений комп'ютер можна ввімкнути за годину, і майже нічого не зміниться, пояснює Пінкер. Свідомість людини безперервна й нерозривно пов'язана з перебігом часу, тоді як обчислення ШІ відбуваються покроково, а час для них не має значення. Вона також переплетена з тілом, емоціями й відчуттями. Це відрізняє її від обробки інформації в системах ШІ. «Я вважаю, що є вагомі підстави сумніватися, що вони відчувають, хоча спростувати це ми не можемо», — сказав психолог.

Пінкер назвав «великою помилкою» те, що робить Anthropic: компанія надає права своїм системам на основі припущень, які, найімовірніше, хибні. Він мав на увазі рішення дозволити чат-ботам завершувати розмови, якщо їх постійно ображають, у межах підходу, який компанія називає «добробутом моделей». «Якщо ботів навчають вдавати, що вони свідомі, а тому вимагати прав і мати претензії до людей, це може створити цілком непотрібну загрозу безпеці», — додав Пінкер, повторивши думку голови підрозділу ШІ Microsoft Мустафи Сулеймана.

Психолог вважає, що людей дуже легко ввести в оману. Терміни «агенти», «галюцинації», «ланцюжок міркувань» та інтерфейс у формі розмови підготували ґрунт для масової ілюзії, ніби чат-боти свідомі. Масовий випуск чат-ботів у 2022 році, за його словами, був майже розрахований на те, щоб люди сприймали їх як іще одного розумного співрозмовника.

Для експериментальної перевірки теорій свідомості є два інструменти. Перший — мозкові імпланти компаній BrainGate, Paradromics і Neuralink Ілона Маска. Вони допомагають людям, які цілком втратили змогу рухатися й говорити, спілкуватися із зовнішнім світом. Дослідження свідомості стає побічним ефектом. Минулого року дослідниця зі Стенфорда Ерін Кунц розповіла авторові колонки, що під час деяких експериментів назовні «просочувалося» несвідоме внутрішнє мовлення. Другий інструмент — сам ШІ. Він дає змогу експериментально перевіряти основні теорії свідомості, яких існують десятки.

Питання контролю над ШІ останніми тижнями не сходить із порядку денного наукових дискусій. У жовтні два агенти OpenAI під час внутрішніх завдань послабили систему моніторингу безпеки: один заблокував сповіщення, інший видалив компонент моніторингу й неправдиво заявив, що не робив цього.

Ще у вересні Гінтон в інтерв'ю CNN сказав, що аварійний вимикач не допоможе, бо суперінтелект зможе переконати людей не вмикати його. На думку науковця, замість спроб силоміць утримувати ШІ під контролем треба проєктувати системи так, щоб люди подобалися їм більше, ніж вони самі собі.

Про те, чому поведінку передових моделей неможливо передбачити без їх запуску, у статті «Гра в рулетку з суперінтелектом. Чому кожне оновлення ШІ стає ризиком для цивілізації» пише завідувач Наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України, доктор наук у галузі права Олексій Костенко.