ШІ несподівано "набрехав" про слова Трампа на зустрічі з Зеленським: що він сказав

Коли Дональд Трамп говорив про канцлера Німеччини Фрідріха Мерца, штучний інтелект (ШІ) раптом вирішив, що йдеться "канцлера Меркель". Причину цього розкрив журнал Forbes.

Як зазначають у виданні, навіть передові системи на основі ШІ плутають вчорашню правду із сьогоднішньою реальністю. Це стається через деякі особливості їхнього "мислення".

Транскрибація за допомогою ШІ відбувається за такою схемою:

• аудіо розбивається на дуже короткі фрагменти та перетворюється на числові дані;
• мовна модель передбачає найімовірніше слово, яке відповідає як звучанню, так і контексту;
• система передбачає наступне слово в стенограмі.

З цього слідує, що ШІ-модель не розуміє слів, а просто розраховує ймовірності. Саме тому система автоматичної транскрибації YouTube неправильно відобразила слова американського президента.

Важливо "Можу не дожити": студентка облишила навчання через страх, що ШІ знищить людство

Оскільки протягом 16 років "канцлер Німеччини" майже завжди означало Ангелу Меркель, то словосполучення "канцлер Меркель" було вплетено в величезну кількість даних для навчання ШІ. Тож, коли модель почула слово "Мерц", яке акустично близько до "Меркель", але набагато рідше зустрічається, вона віддала перевагу більш знайомому продовженню.

"Ключова прогалина: моделі транскрибації на основі штучного інтелекту не перевіряють факти. Вони не зупиняються і не думають: "Меркель більше не канцлер, тож це, мабуть, неправильно". Вони не отримують доступ до графіків знань у реальному часі та не перевіряють реальність. Вони просто генерують найімовірнішу послідовність слів на основі історичних даних", — пояснили експерти видання.

Нагадаємо, чат-бот зі ШІ Gemini від Google почав генерувати повідомлення з самозневагою, звинувачуючи себе в неспроможності виконати завдання.

Фокус також писав про те, як штучний інтелект може маніпулювати людською пам'яттю, нав'язуючи користувачам фальшиві спогади.