Олена Андрієнко: Невіддільним елементом ШІ-грамотності має бути навчання людей думати, а не використовувати його як протез, який замінює мислення

Олена Андрієнко, заступниця директора з правових питань CLTO Publicis Groupe Ukraine, членкиня Експертно-консультаційного комітету з питань розвитку сфери ШІ в Україні при Міністерстві цифрової трансформації України має гіпотезу, що у людей, які живуть у країнах в умовах тривалої нестабільності, навичка змінюватись і швидше адаптуватися розвинута краще. І тому, як не парадоксально, Україна, на її думку, має зараз еволюційну перевагу щодо адаптації до штучного інтелекту.

За її словами, оскільки ми йдемо шляхом євроінтеграції, то будемо імплементовувати EU AI Act (Акт ЄС про ШІ), в Україні наразі розробляється відповідний законопроєкт. Вона сподівається, що законопроєкт буде збалансованим, враховуватиме потреби, з одного боку, в регуляції, а з іншого, в стимулюванні нашого ринку.

Щодо бажань деяких редакцій скоротити працівників, замінивши їх працю на ШІ, то це, на думку Олени, не дуже вдала історія. «Такі експерименти проводили в різних сферах, вони показали, що це особливо ні до чого хорошого не веде. Питання в тому, щоб люди, які отримали більше вільного часу від виснажливої рутини, могли займатися своїм професійним розвитком, створювати якісніший контент і бути тією самою human first, human last», — каже вона. Відповідальність, сенс і творчість — це те, що буде залишатися за людьми, додає Олена.

Про велику українську мовну модель, маркування контенту, виробленого з використанням ШІ, правові наслідки поширення ШІ, а також про використання штучного інтелекту для протидії дезінформації читайте в інтерв’ю Олени Андрієнко «Детектору медіа».

— Олено, чим займається Експертно-консультаційний комітет з питань розвитку сфери ШІ в Україні при Міністерстві цифрової трансформації, членкинею якого ви є?

— Комітет створено у грудні 2019 року, він працює з 2020-го року. Я долучилася до нього у 20-му. Його завдання повністю відображено у назві — це експертно-консультаційний комітет із питань розвитку сфери штучного інтелекту в Україні. Тобто робота там почалася не тоді, коли на ринку масово з’явився генеративний штучний інтелект і почався бум ChatGPT й інших великих мовних моделей, а трохи раніше. Мета комітету — розвивати ШІ в Україні, бо ми розуміємо, що це про стратегічну перевагу.

— Ви також є керівницею етико-правового напряму проєкту з розвитку української великої мовної моделі. Це проєкт міністерства? Розкажіть про нього.

— Це проєкт із розвитку національної великої мовної моделі, яким активно займається Міністерство цифрової трансформації разом із «Київстаром», який виступає партнером цього проєкту. Якщо ви пам’ятаєте, було навіть загальнонаціональне опитування з вибору назви для цієї моделі. Була обрана назва «Сяйво», зараз триває робота над її розвитком. Національна мовна модель — це один із ключових елементів інфраструктури функціонування штучного інтелекту. І оскільки у нас дуже багато сервісів, зокрема державних, зараз переходять на використання штучного інтелекту, то дуже хотілося б, щоб вони оперували саме національною великою мовною моделлю, а не іноземними аналогами.

— Кожна країна має таку модель?

— Це залежить від країни. Наприклад, Польща розвиває свою мовну модель. Для нас важливо мати, бо ми розуміємо, що корпус української мови в натренованих іноземних моделях представлений менше, через те, що об’єктивно частка україномовного контенту менша. Але національна мовна модель — це про те, щоб була дуже якісна модель, натренована на максимальному обсязі автентичного українського контенту, в тому числі верифікованого. Бо це ж не тільки про те, наскільки грамотно говорить модель, це і про те, які наративи вона передає.

— А чому саме велика, є ще менші?

— Бувають малі, середні. Це залежить від кількості параметрів, якими оперує мовна модель. Тобто в одній країні їх може бути кілька. У нас насправді вже були натреновані мовні моделі, наприклад, у 2025 році — «Мамай» (Mamay LM) і «Лапа» (Lapa LLM). Національна мовна модель — це як національна рефлексія, зокрема, своєї мовної спроможності. Ми знаємо, що мова має значення, і події з 2014-го, особливо з 2022-го року, взагалі показали, що у мови ключове значення.

І мовна представленість у віртуальному світі, в метавсесвіті, починається в тому числі з мовних моделей, великих зокрема.

— А хто їх розробляє в Україні?

— «Мамай» і «Лапа» — це були недержавні академічні ініціативи. А національну велику мовну модель зараз розробляє «Київстар» спільно з Міністерством цифрової трансформації.

— У вересні цього року ви були учасницею конференції Суспільного, зокрема панелі «Що по ШІ?»: етичні виклики та нові можливості». На ній ішлося про використання ШІ в медіа. На вашу думку, що можна зробити, щоб ця новітня технологія посилювала журналістику, а не підміняла її?

— Мені здається, що не дарма в європейському Акті про штучний інтелект (AI Act) є цілий розділ про проблему ШІ-грамотності. Для мене ШІ грамотність — це не просто розуміння, в який рядочок які слова в якій послідовності вводити, щоб тобі модель щось видала. Це про переосмислення професійної ролі. Чи я виступаю як мавпочка, яка друкує 1000 знаків на хвилину і робить якісь рутинні речі — чи я здатна рутинні речі делегувати, а мислити стратегічно, використовувати штучний інтелект як партнера в своєму когнітивному розвитку?

Грубо кажучи, я можу написати матеріал і попросити штучний інтелект: а) перевірити; б) знайти, що не було сказано і що було сказано не так; в) виступити як опонент, щоб зробити цей матеріал більш повним. Зрозуміло, що якщо це новини в режимі реального часу, то журналістика — в тому числі про фізичну верифікацію, про перебування на місці події.

Генеративний ШІ безтілесний. Дрони ми не завжди всюди посилаємо, наземні, чи повітряні. Тому функція журналіста — це ще й фактична перевірка.

Плюс це точно привнесення смислів і цінностей, бо отримуєш відповідь залежно від того, як ставиш запитання штучному інтелекту.

Було прекрасне дослідження цього року від Policy Genome та ГО «Платформа прав людини», наскільки по-різному відповідають моделі штучного інтелекту залежно від того, якою мовою ставиться запитання на різні провокативні або чутливі політичні питання. І відповіді на запитання українською, російською, англійською мовами дуже різні. Також дослідження Texty.org.ua показало, наскільки різні упередження мають щодо України моделі ШІ залежно від країни походження.

Тому журналіст — це зокрема про трансляцію цінностей, смислів, і це має відбуватися не просто прямолінійно. Як на мене, без суб’єктивного ставлення, привнесеного журналістом, не обійтися. Тому основна функція журналіста — це бути ось оцією людиною в процесі інтерпретації, донесення певних смислів і цінностей до людей, плюс верифікація. Плюс, знов-таки, постійний власний розвиток.

Зрозуміло, що в Україні зараз катастрофічний дефіцит кадрів. Тому у нас ця загроза, що прийде штучний інтелект і всі робочі місця скоротять, як на мене, стоїть менш радикально.

Але якісний стрибок у самоідентифікації, саморозвитку журналіста дозволить зберегти себе в професії та свою професію. Зрозуміло, що професія буде ускладнюватися. Вона виконує надзвичайно важливу соціальну місію, але це має бути ще складніша соціальна місія.

— Цього року Суспільне ініціювало створення Альянсу з питань штучного інтелекту, до якого долучилися, зокрема, «Українська правда», «1+1 Media», Starlight Media, «Детектор медіа», Zn.ua та інші медіа. Учасники Альянсу працюють за двома основними напрямами: регуляторним і редакційним. Ви долучені до роботи Альянсу?

— Наразі ні, оскільки я все ж представник не медіа, а рекламного ринку. Але всіляко вітаю таку ініціативу через те, що регулювання штучного інтелекту в Україні йде шляхом знизу догори, і це закладено в нашій «Білій книзі з регулювання ШІ в Україні: бачення Мінцифри».

Раніше було створено саморегулівну організацію IT-компаній, яка розробила Добровільний кодекс поведінки з етичного та відповідального використання ШІ. І це круто, що з’явилася аналогічна організація саме в сфері медіа, бо це про суб’єктність. Одна справа, коли до тебе приходить держава чи ще хтось і каже: «Ось треба робити так». А інша справа — це коли самі гравці ринку приходять до розуміння, що ось отак робити і так поводитися правильно.

Тому всіляко вітаю та відкрита до співпраці. Ми обговорювали з Ангеліною Карякіною (радниця голови правління Суспільного — «ДМ»), що я готова долучатися до розробки спільних рекомендацій, бо це про становлення колективного інтелекту. Сам штучний інтелект за своєю суттю є колективним. Бо алгоритми написані не однією людиною. Тренувальні дані — це мільярди, мільярди токенів, створені не однією людиною. Зрозуміло, що регулювання штучного інтелекту теж має бути справою колективного інтелекту. І ось отут якраз оцей принцип Human in the loop (з англ. — людина в контурі управління), проявляється в тому числі в таких явищах, як створення альянсу. Тому це дуже хороший знак, що на нашому ринку з’явилося таке саморегулювальне об’єднання.

— Одна група Альянсу працює над питаннями, як мають бути представлені інтереси медіа у майбутньому українському законодавстві про штучний інтелект. Чи є вже якісь законопроєкти щодо ШІ в українському парламенті? Що саме може врегулювати парламент, на вашу думку?

— Оскільки ми йдемо шляхом євроінтеграції, будемо імплементувати EU AI Act (Акт ЄС про ШІ). Наразі розробляється відповідний законопроєкт. Зрозуміло, що будь-який законопроєкт — не тільки про норму права, а й про вибудовування системи органів. У ЄС вибудовується система органів, яка допомагає застосовувати Акт ЄС про ШІ. В Україні до моменту приєднання до ЄС доступу до цієї системи органів не буде. Тобто треба вибудовувати власну вертикаль органів, і це один із викликів.

Плюс ми повинні розуміти, що, з одного боку, будь-яке регулювання завжди відстає від суспільних, економічних, технічних та інших відносин. І це об’єктивна реальність. З іншого боку, будь-яке регулювання має бути в точці оптимуму на кривій. Тобто занадто сильне регулювання призводить до того, що розвиток паралізується, занадто слабке — до того, що починається хаос.

І в тій же Європі зараз дуже багато суперечок, чи Акт ЄС про ШІ гальмує чи не гальмує розвиток штучного інтелекту. Через це набуття чинностей певних положень цього акту про штучний інтелект було відкладено. США декларують інший підхід до регулювання штучного інтелекту, хоча там теж з’являються свої і саморегулювальні, і законодавчі ініціативи.

Інший великий гравець — це Китай. Ми менш обізнані, що там відбувається з регулюванням ШІ, бо там зовсім інша модель. Водночас вони приймають дуже багато законів, які покликані врегулювати розвиток штучного інтелекту, зокрема і взаємодію людини з антропоморфним штучним інтелектом. Там нещодавно ухвалили закон, який прописує, що можна, а що ні системі штучного інтелекту робити у взаємодії з людьми. Розумію, що у них набагато більша вибірка, ніж у США чи ЄС, я вже не кажу про Україну. І оскільки там штучний інтелект за замовчанням має набагато вищий рівень проникності в усі пов’язані з державою сфери, в силу специфіки державного устрою, то і багато ризиків там вистрілили набагато раніше, зокрема, у більш неприємній формі, ніж у західному світі та у нас.

— Наш законопроєкт уже зареєстрований чи ще напрацьовується?

— Напрацьовується. Відповідно до Білої книги були зазначені дедлайни, побачимо, як вони будуть дотримані. Ми розуміємо, що законодавчий процес — не швидка історія, весь час з’являється щось, що конкурує за терміновістю. Я сподіваюся, що законопроєкт буде збалансованим, враховуватиме потреби, з одного боку, в регуляції, а з іншого, в стимулюванні нашого ринку. Враховуючи всі обставини, штучний інтелект — це ж не тільки про інформацію, про дані, це і про енергетику, бо системи штучного інтелекту споживають колосальну кількість енергії. Тому, якщо ми його надто сильно зарегулюємо — це буде дуже сумно для нас. З іншого боку, ми не можемо собі дозволити залишати повністю неврегульованим, бо це може створювати прямі загрози. Зараз від багатьох цих загроз нас захищають норми інших законів.

— А які правові наслідки поширення ШІ?

— Як юрист я розумію, що для мене найближча категорія — це джерела підвищеної небезпеки. Ми до них передусім відносимо транспортні засоби. Тобто це зручно, це швидко, це корисно. Але десь трішки хтось щось не догледів — і можуть бути надзвичайно масштабні негативні наслідки. Я навіть зараз не говорю про дипфейки чи про різного роду шахрайства. Якщо ми випускаємо на проїжджу частину самокеровані автомобілі, повинні розуміти, хто за це несе відповідальність.

Якщо люди використовують систему штучного інтелекту як порадника — неважливо, в психологічній практиці, медичній тощо — ми повинні розуміти, де межа. Що це лише порада, а прийняття рішень має лишатися за людиною. Бо саме людина несе відповідальність.

Це те, що закладено в нашому Цивільному кодексі: відповідає та людина, яка щось використовує, або та компанія, яка щось використовує. Наприклад, на рекламному ринку. Якщо від імені компанії діє ШІ-агент або навіть банальний авторизований чат-бот і він говорить, що ти маєш право на певну знижку, то не можна потім сказати: «Ой, це чат-бот щось неправильно написав! Ой, це був збій у системі!». Відповідно до Закону «Про захист прав споживачів» це пропозиція компанії. І цікаво, що кілька років тому вже навіть був подібний судовий випадок у Канаді, де одна з авіаліній мала необережність сказати: «Ой-ой-ой, це не ми, це там щось неправильно проконсультував наш чат-бот». Але суд сказав: вибачте, чат-бот діяв як частина представницької функції компанії. Тому компанія має нести відповідальність за дії свого чат-боту. І це ми ще не говоримо про ШІ-агентів, які зараз активно розвиваються. Весь цей рік регулярно чуємо новини про ШІ-агентів у фінансовій сфері. Що буде, коли ШІ-агенти будуть замовляти, наприклад, товари? Холодильник пише в застосунок певного супермаркету, що закінчилися молоко, яйця, хліб та інше, будь ласка, привезіть. І — трішки пофантазуємо — дрон привозить продукти, і гроші автоматично списуються з картки. Людини в цій екосистемі стає все менше і менше. І тому постає питання відповідальності, усвідомленого делегування й усвідомленого контролю цих усіх ланцюжків. Це в тому числі питання безпеки.

— Ви запропонували разом із медіа напрацювати зрозумілий і впізнаваний стандарт маркування контенту в Україні. Це мають бути законодавчі норми?

— Не думаю, що це мають бути законодавчі норми. Достатньо просто законодавчої норми про те, що він має бути маркованим.

— А як краще маркувати, на вашу думку?

— Скажімо так, маркування повинно бути зрозумілим читачу, споживачу. Якщо ми подивимося, що зараз робить Європейський Союз, то в Акті про ШІ є вимога про прозорість і маркування. Вони напрацювали рекомендації і запровадили три види міток: AI generated, тобто створений з використанням АІ, AI modified, змінений з використанням АІ, і просто AI. Вони написали мануал майже на 200 сторінок, розписавши де і що. Також зробили окрему табличку, де дуже коротко на пів аркуша написали, що і де треба ставити.

Умовно кажучи, якщо я приходжу в будь-яку систему ШІ і кажу: «Згенеруй мені зображення кімнати, де сидить така-то пані в такому-то інтер’єрі, в такій-то позі», то це AI generated. Якщо я завантажую чиєсь фото в інтер’єрі й кажу: «Будь ласка, зміни трішки колір стін, дай інше освітлення…», то це буде AI modified. Думаю, що такий стандарт був би дуже корисним. Чому? Тому що навіть у своїй повсякденній практиці розумію, що досить часто приходять і клієнти, і наші рекламні агентства з запитанням, а як маркувати? Чи достатньо написати просто, що використано ШІ у підготовці, чи треба щось детальніше? Ось такий колективний діалог був би корисний для прояснення цих моментів.

Знов-таки, той же Європейський Союз говорить, якщо ви використовували ШІ виключно для перевірки граматики, то не обов’язково писати, що був використаний ШІ. З іншого боку, є дуже багато сфер, де оця історія про ШІ важлива. Мені сподобалася недавня теза на одній із дискусій, що маркування про ШІ — це не про покарання, це про прозорість. Бо коли ми купуємо одяг і дивимося на бірочку, є у складі синтетика чи немає, ми ж не вважаємо, що це погано? Ми просто хочемо розуміти, коли купуємо одяг, який там відсоток синтетичних волокон.

— А хто в Європейському Союзі написав цей мануал?

— Європейський офіс зі штучного інтелекту (EU AI Office) розробив, а Європейська Комісія ухвалила, тобто це не самоорганізація, це верхньорівневий орган, який напрацьовував.

— Тобто це може зробити Мінцифри, або Нацрада, або взагалі новий державний орган?

— У нас поки що немає визначеного органу, який відповідає за штучний інтелект. Тому, оскільки ми говоримо, що в нас на ринку зараз діють норми м’якого права (soft law), то це може бути або спільне регулювання, або саморегулювання. Щоб цим займалися органи співрегулювання при Нацраді, треба внести зміни до законів «Про медіа» та «Про рекламу». Наразі такі зміни передбачають законопроєкти №12253 і №12111. Але якщо будь-яка авторитетна організація на ринку, наприклад, згаданий вище Альянс, вийде зі своїми рекомендаціями, думаю, що і Нацрада, і Мінцифри радо приєднаються.

І зрозуміло, що історія про спільне регулювання, коли є недержавні або громадські організації плюс державні органи, краще працює. Бо коли ти навіть доносиш таку інформацію до конкретного медіа чи до клієнта на рекламному ринку, то одна справа, коли це робить якась організація, а інша, коли такі рекомендації були прийняті спільно державними органами і громадськими організаціями. Чому я за такий багатосторонній діалог? Тому що він крім того, що додає авторитету, ще і виробляє спільне бачення. Бо, приміром, ринок дивиться на це з точки зору виконання: як ми це маємо робити на радіо або телебаченні. А Нацрада дивиться з точки зору контролю. І це дозволяє зразу виробити якусь модель, яка буде робоча для всіх.

— Ще одним практичним інструментом ви назвали технології, які фіксують походження контенту в метаданих. Це поширена практика?

— Це цілком застосовується на практиці. Ініціатива C2PA була запущена ще у 2021 році. Наскільки я знаю, Суспільне приєдналося до цієї ініціативи, яка дозволяє фіксувати метадані. Зрозуміло, що це теж можна досить легко обійти, використавши скриншоти і так далі. Але, коли ми говоримо про якісну журналістику, то думаю, що всі зацікавлені в тому, щоб джерело інформації зберігалося і використовувалося. І це те, що дозволяє зчитувати дані про верифікацію на технологічному рівні.

— Використання ШІ в Європейському Союзі врегулювано тільки EU AI Act?

— Не тільки. Дотичні DSA (Акт про цифрові послуги), DMA (Акт про цифрові ринки), EMFA (Європейський акт про свободу медіа). Акт про ШІ запроваджує ризикорієнтований підхід, який означає, що всі технології діляться на чотири категорії ризику. Є неприйнятний ризик, і такі технології заборонені. Є високий, середній і низький. По низькому все більш-менш зрозуміло, з середнім треба бути уважним, а по високому ризику є ціла низка вимог, які провайдери таких систем мають виконувати. І конкретний перелік цих високоризикових систем ШІ, бо саме вони можуть дуже сильно впливати на права й обов’язки людини. Це може бути біометрична ідентифікація, рішення в освіті та правоохоронній сфері, розпізнавання емоцій, питання виборів, коли ШІ використовується для зміни електоральної поведінки, тощо.

— Ви також запропонували активніше використовувати ШІ для протидії дезінформації, зокрема, для виявлення повторюваних наративів, які поширюються одночасно на великій кількості платформ. Це для кого саме рекомендація?

— Думаю, що це було б актуально для медіа, бо зараз у нашому інформаційному просторі я нечасто чую, що ми починаємо вчитися використовувати інструменти штучного інтелекту, по-перше, для виявлення дезінформації, по-друге, для реагування на неї. Хоча в Європейському Союзі є вже певний набір пакетів безплатних інструментів. І хотілося б це популяризувати серед медіа, щоб вони в тому числі могли перевіряти, верифікувати інформацію, яку поширюють. Розумію, коли ми говоримо про новини, швидкість має велике значення. Також буде корисно тим, хто займається аналітичною журналістикою. Це сприятиме розумінню, як відбуваються інформаційні вкиди, як вони поширюються. Це теж могло б бути безцінним джерелом інформації.

І, власне кажучи, інструменти ШІ набагато більше можуть зробити, ніж робити це просто руками. Об’єктивно. Бо в нас різний масштаб передавання інформації людиною та системами штучного інтелекту.

— Медійний Альянс з питань штучного інтелекту також напрацював редакційні принципи використання ШІ. Серед запропонованих принципів — Human First, Human Last, відповідність редакційним стандартам, прозорість, ефективність і доцільність, конфіденційність і захист даних, законність, відповідальність, недискримінація та рівність. На конференції ви також згадували про рекомендації щодо відповідального використання ШІ в медіа, які розроблялися наприкінці 2023 — на початку 2024 року. Хто їх напрацював?

— До їх розробки долучилися з державних органів Мінцифра, Нацрада і ціла низка громадських організацій. Я входила в робочу групу. Це були перші рекомендації з відповідального використання ШІ, які були створені для України. І треба віддати належне, що вони вийшли на два чи три місяці пізніше, ніж відповідні європейські. Ми не списували у колег з ЄС, а намагалися структурувати власний підхід. Повторюся, ми зараз говоримо, що в Україні сфера штучного інтелекту регулюється нормами м’якого права, тобто це рекомендації. І на сьогоднішній день таких рекомендацій уже є близько 10. Є і рекомендації щодо ШІ в сфері реклами і маркетингових комунікацій, ШІ і питання права інтелектуальної власності. Я називаю ті, що найбільш дотичні до медіа. ШІ й управління людським капіталом теж можуть бути цікаві для медіа.

Яке завдання цих рекомендацій? Дати орієнтири, загальні принципи, прояснити якісь моменти, як можна етично та відповідально використовувати ШІ. Бо ми говоримо не просто «використовуйте!», а що треба використовувати осмислено. Практично в усіх рекомендаціях в кінці є додатки, які містять чек-листи, що треба перевірити, що треба зробити, а що робити точно не треба.

Бо з практики я розумію, що дуже часто ентузіасти знаходять якийсь прекрасний інструмент і хочуть його використовувати. Ти дивишся, країна походження інструменту, наприклад, умовний Китай. І розумієш, що там зовсім інший підхід до захисту персональних даних, захисту права інтелектуальної власності і так далі. Чи, не дай Боже, якщо це система штучного інтелекту походить з країни агресора. Тому на рівні користувача рекомендації будуть корисні.

Ще додам кілька слів щодо комерційного використання ШІ. Медіа здебільшого — це комерційні організації. Чи можете поставити на сайті чи пустити в стрічку новин контент, згенерований ШІ? Це, як правило, залежить від пакету підписки. Понад те, якщо ти щось завантажуєш в цю систему, треба дивитись умови її користування. Вони можуть передбачати, що провайдер цієї системи отримує права інтелектуальної власності на все, що ти завантажив. Використовувати це все для тренування, можливо ще для чогось.

Тобто далі починається дуже багато юридичних нюансів, які користувачу можуть видатися обтяжливими. Але коли ми говоримо про медіа як бізнес, вони є важливі.

— Де можна ознайомитися з рекомендаціями, про які ви згадали?

— На порталі, де Мінцифра складає абсолютно все, що стосується штучного інтелекту. Наразі розглядається стратегія розвитку штучного інтелекту на наступний період. Там багато чого є: і Біла книга, і всі рекомендації. Це корисний ресурс, про який варто знати і яким варто користуватися.

— Ви згодні з тим, що ця технологія змінює спосіб споживання інформації? Що людина все рідше контактує з людиною, а все більше з чат-ботом?

— Я погоджуюся з цим. Понад те, оскільки я в тому числі веду певні наукові пошуки, все більше схиляюсь до того, що ШІ — це фактично нова мова та інший спосіб споживання інформації. У чомусь він спрощує, у чомусь дозволяє робити це складніше, охоплювати більшу кількість і джерел, і людей, кому це транслюється. Ми можемо багато нарікати на соціальні мережі, але ми знаємо з теорії соціальної психології, що слабкі зв’язки дуже часто мають значення, в тому числі для народження креативних, проривних ідей.

Я розумію, що соцмережі — це не просто про слабкі зв’язки, а про дуже слабкі зв’язки, але коли їх дуже багато, вони можуть призводити до якісних змін. Поява мови в наших предків давала набагато більш абстрактні поняття та дозволяла передавати знання історично на більші території і планувати майбутнє. ШІ наразі теж починає виконувати цю функцію. Наприклад, дослідження нещодавно провели в Китаї чи в США, а ти можеш із ними ознайомитися тут і зараз, попросивши ШІ (або ШІ агента) написати про це зрозумілою мовою (особливо, якщо ти не володієш китайською). Наприклад, нещодавно вручили Нобелівські премії. Якщо ти не фізик чи не хімік, зрозуміти, про що відкриття її лауреатів, досить складно. Але ти можеш попросити ШІ пояснити це простою мовою, і ти це отримаєш. Тому це інша швидкість обміну інформацією.

Мене особисто надихнула класифікація Девіда Брукса, опублікована у The Atlantic, є хороший огляд українською, що всіх користувачів можна поділити на три категорії. Перша — це ефективні пасажири, тобто ті, хто починають використовувати ШІ, й особливо не заморочуються, що буде з їхніми когнітивними здібностями. Вони дуже часто заходять у когнітивний борг, бо думати — це енерговитратно, треба докладати зусилля. І далі починається історія про певну деградацію.

Друга категорія — це вимушені оптимізатори. Це ті, хто розуміє: якщо ти не використовуєш ШІ, то дуже швидко відстаєш взагалі від того, що відбувається на ринку. І хочеш чи ні, але мусиш це використовувати.

І третя категорія — це інтелектуальні марафонці. Це ті, які розуміють, який інструмент з’явився. Тобі не треба тепер у бібліотеку йти з лампочкою, бо в парламентській бібліотеці немає лампочок — як це було у 1990-ті. Тобі не треба перелопачувати 150 каталогів, ти за 10 хвилин можеш отримати ту інформацію, яка тобі необхідна з найновіших досліджень, і дивитись, що ти можеш привнести в ці дослідження. І вести самому дослідження далі та використовувати ШІ як тренера, як спаринг-партнера тощо.

Тому, як на мене, невіддільним елементом ШІ-грамотності має бути навчання дітей, людей думати і використовувати ШІ саме як спаринг-партнера, а не як протез, який замінює мислення. І я розумію, що в світі ще немає однозначної відповіді, як це зробити.

Є історії, що багато середніх навчальних закладів, шкіл забороняють використовувати ШІ. Ми вже говорили, що ШІ — це джерело підвищеної небезпеки. Людей за кермо автівки ми пускаємо в скільки років? З повноліття. Можливо, дійсно є сенс обмежити вікове використання. Але поки що це все на рівні ідей і дискусій, бо в нас ще дуже мало даних, що власне відбувається. Мало даних, чи є відмінності в формуванні тих чи тих зон кори головного мозку, приміром, у дітей, які виросли в планшетах, особливо ті, які були на дистанційному навчанні, і котрі навчалися наживо.

Тобто певні дослідження є, але їх ще мало, їх ще не використали, і немає єдиного підходу, що робити. Хоча ЮНЕСКО опублікувало вже кілька рекомендацій, як використовувати ШІ в класах, і окремо є рекомендації для вчителів, окремо для учнів, студентів. Тобто робота йде, але інформації знову-таки дуже багато, й її дуже часто ще не обробили.

— Які ще психологічні наслідки (зміна поведінки) використання ШІ? На вашу думку, чи встигає людина за всіма технологічними змінами? На жаль, не всі можуть розрізнити, чи контент справжній… Ви говорили про необхідність формування нового «чуття правди». Це має бути чуття, чи знання?

— Це має бути щось синтетичне, поєднання і знання, і надивленості. Це чуття правди. Мене колись вразив опис практики, по-моєму, в Китаї. На конвеєрі їдуть одноденні курчата, і їх треба сортувати на хлопчик-дівчинка. Одноденне курчатко! Тут і озброєним оком дуже важко визначити. Як відбувалося тренування людей? Той, хто має цю компетенцію, тренує новачків. За кілька днів сортування новачки починають із точністю 98% відсортовувати. Якщо їх спитати, за якими критеріями сортують, вони не можуть їх сформулювати. Вони просто бачать. Це надивленість. Ми можемо говорити: «Ось мануал, як відрізнити сфабрикований, синтетичний контент від справжнього». Але на сьогоднішній день якість синтетичного контенту така, що індикатори про шість пальців чи тінь, яка не так падає, чи ще щось, уже не працюють. І ось тут виникає питання надивленості. З іншого боку, це переводить питання про вірю-не вірю на новий рівень суспільної довіри. Це теж окрема історія.

Було дослідження, яке говорило, що люди зараз починають частіше вважати, що створений людиною контент синтетичний. Учасникам експерименту показували певну вибірку, й на частину створеного людиною контенту, вони казали, що він синтетичний. Тобто ми поки що на таких гойдалках. Тут ми вірим, тут раптом — ні.

Зрозуміло, що є дуже великі відмінності за віковими категоріями. Наприклад, людям старшого віку досить важко пояснити, що ось оце згенерований контент і він не є справжнім. З іншого боку, як формувати такі знання? Тож маркування — елемент формування такого розуміння.

Чи встигає людина за всіма технологічними новаціями та які психологічні наслідки можуть бути? Інновації відбуваються так швидко, що об’єктивно ми не завжди встигаємо за ними. Зміни можуть торкатися і когнітивної сфери. Тобто зміни, як ми фокусуємо увагу, чи здатні обробляти довгі тексти, що ми запам’ятовуємо, що ні. Знову ж таки, у нас з’являється звичка делегувати.

Ще у 2011 році проводили дослідження, яке виявило: коли людина знала, що може звернутись із запитанням до якоїсь системи, умовно до того ж Google, вона запам’ятовувала гірше, ніж тоді, коли вона знала, що звернутись не можна буде (україномовний огляд). Це реальний виклик в процесі навчання, бо ми все-таки хочемо розвивати і пам’ять, і увагу, і критичне мислення.

Змінюється емоційна сфера. Візьмімо, наприклад, м’які навички, так звані soft skills, навички спілкування. Чому певна категорія людей надає перевагу взаємодії з чат-ботами чи системами? Тому що ці системи не сперечаються, вони схильні відповідати в рамках очікування користувача тощо. А людина — більш відкрита система, більш непередбачувана, може йти на конфлікт, може демонструвати негативні емоції, наполягати на своїй точці зору тощо. Тому однозначно зміни відбуваються. Психологи дуже багато проводять різних досліджень на різних рівнях, не тільки поведінкових, але і на рівні нейропсихології. Але системно сказати, як змінюється людина, зараз ми не готові.

Чи встигає людина адаптуватися? Мені здається, що ми навчаємося змінюватися швидше. Особисто моя гіпотеза, що у людей, які живуть у країнах, що перебувають в умовах тривалої нестабільності, навичка змінюватись і швидше адаптуватись, розвинута краще. І тому, як не парадоксально, Україна, на мою думку, має зараз еволюційну перевагу. Бо якщо ми звернемося до нашої історії, то, починаючи з 1985-го року, я не пам’ятаю, щоб у нас була особлива стабільність. Перебудова, Чорнобиль, боротьба за Незалежність, економічні й фінансові кризи, революції, війна. Спілкуєшся з колегами-іноземцями, а вони кажуть: «Ой-ой-ой, у нас сталася інфляція на 3% вперше на моїй пам’яті!». І розумієш, що це вперше за попередні 50 років. Можеш тільки співчутливо посміхнутися.

— Щодо економічного боку використання ШІ, чи можуть редакції скоротити витрати для медіа, використовуючи ШІ? Як саме?

— Напевно, можуть на рутині, яка не потребує великих інтелектуальних зусиль. І тут питання в тому, що, використовуючи ШІ, медіа зекономлять, але не мають усіх скоротити, бо тепер буде тільки редакція штучного інтелекту. Такі експерименти проводили в різних сферах, вони показали, що це особливо ні до чого хорошого не веде. Питання в тому, щоб люди, які отримали більше вільного часу від виснажливої рутини, могли займатися своїм професійним розвитком, створювати якісніший контент і бути тією самою «human first, human last».

З іншого боку, існує ще системна проблема на ринку — конкуренція за читача, конкуренція за рекламодавця. Не секрет, що все більше люди покладаються просто на короткий підсумок, який видає система пошуку без переходу на першоджерело, а від таких переходів залежить монетизація. І тут відповіді немає ні у нас, ні у світі. Ми розуміємо, що питання нової системи монетизації має широко обговорюватися. І цю систему треба створювати. Навряд чи треба сидіти і чекати, поки хтось її створить для нас.

З іншого боку, якщо медіа не будуть фінансуватися, то не будуть з’являтись нові дані (контент), на яких тренуються системи ШІ. І бачу, що це усвідомлення приходить в тому числі до провайдерів системи ШІ, коли вже говорять про проблему дефіциту тренувальних даних. Тому тут питання про діалог. Зрозуміло, що цей діалог ведеться на різних майданчиках, в різних масштабах, і в рамках світу, і в рамках держав. В Україні поки що такого спільного діалогу немає. Як на мене, таким майданчиком для медіа могла б виступити Нацрада телебачення і радіомовлення. Але це поки що як ідея.

— Що в епоху ШІ, на ваш погляд, залишатиметься винятково людською компетенцією в роботі медіа?

— Ми вже багато говорили про контроль. Так ось контроль і відповідальність — це точно про людину. Також про те, які ми смисли закладаємо. Ми не формуємо світ матриці, ми залишаємося в світі людей, сенси — це про суто людське. А також — це про творчість. Причому творчість у нас зараз дещо змінює формат. Бо раніше творчість була в тому, що ти мав задум, а потім 3—10 років малював картину, довбав статую, писав роман тощо. На сьогоднішній день творчість — у моїй картинці світу — більше зміщується в прийняття рішення, який варіант більш придатний. Тобі штучний інтелект може згенерувати відео чи написати книгу дуже швидко. Але, по-перше, ти вибираєш, чи пишеш сам, чи генеруєш, малюєш сам, чи генеруєш, а чи використовуєш ШІ як підмайстра.

По-друге, ти вибираєш, який варіант ти вважаєш правильним. З міріад можливих виборів. Психологія знає таке поняття як втома від вибору. Приміром, коли в супермаркеті проводять дегустацію 20 видів варення або трьох видів варення. Вгадаймо, коли більше покупців куплять варення? Правильно, тоді, коли у них на вибір усього три варіанти. Бо з 20 вибрати складніше і людина просто відкладає цей вибір.

Тому відповідальність, сенс і творчість — це те, що буде залишатися за людьми. Але, повторюся, все змінюється.

— Нещодавно президент США Дональд Трамп запропонував перейменувати штучний інтелект в суперінтелект. На вашу думку, для чого? У чому різниця?

— Давно точиться дискусія про сильний і слабкий штучний інтелект. Слабкий штучний інтелект — це той, який заточений на виконання певної функції, імітації певної функції людини. Все, чим ми користуємося — це, як правило, слабкий штучний інтелект. Сильний — це той, який повністю може зімітувати інтелект людини. Чи треба перейменувати? Наукових підстав для перейменування немає, як на мене, це просто інфопривід. Побачимо, як буде реалізовуватися ця ініціатива в прикладній сфері в Сполучених Штатах. Але щось мені підказує, що принаймні Європейський Союз й Україна будуть використовувати назву «штучний інтелект». Понад те, багато хто каже, що «інтелект» — не зовсім коректний термін, але він прижився з 1950—60-х років. Я в таких випадках кажу: «Скажіть спасибі, що тоді це не назвали штучною свідомістю чи штучною психікою. Бо це було б набагато драматичніше».

Фото з архіву Олени Андрієнко та Суспільного мовлення