ШІ забанив німу жінку, яка користувалась ним для розмови: компанія-розробник в шоці

Джойс Ессер з Великобританії після втрати голосу дозволили використовувати штучний інтелект для спілкування, проте ШІ самостійно забанив жінку. Про це пише Daily Star.

У жінки діагностували хворобу рухових нейронів — прогресуюче неврологічне захворювання, яке пошкоджує нервові клітини, що контролюють м'язи. Джойс може рухати кінцівками, але їй важко говорити і ковтати.

Вона має високотехнологічний інструмент штучного інтелекту, до якого були завантажені записи її старих голосів, щоб відтворити їх.

Джойс могла "говорити" своїм старим голосом, набираючи речення на пристрої, вибираючи літери рукою або поглядом.

Одного разу Джойс чекала на свого чоловіка, щоб зібратися, коли на її пристрої з'явилося повідомлення: "Давай, Ханні, тягни свою дупу в машину!"

Жінка відповіла британським жартом про те, що краще "одягнути трусики".

"Наступного дня я отримала попередження від ElevenLabs про те, що я використовувала неприйнятну лексику, і щоб я більше так не робила!", — зізналася Джойс.

Джойс вважала, що попередження нічого не означатиме, але наступного дня їй заборонили користуватися пристроєм.

"Я тільки-но повернула собі голос, а вони його в мене забрали… і це лише через два дні після того, як я провела презентацію для місцевої групи людей, які страждають на розлади опорно-рухового апарату, і розповіла їм, наскільки дивовижними є ElevenLabs", — додала жінка.

Компанія відновила її акаунт з вибаченнями, але ніхто досі не знає, що пішло не так.

На сайті компанії зазначено, що існують правила, які забороняють загрожувати безпеці дітей, займатися незаконною поведінкою, надавати медичні консультації, видавати себе за інших людей, втручатися у вибори тощо. Однак немає жодних конкретних деталей щодо неприйнятної лексики.

Нагадаємо, ШІ спрогнозував, баба Ванга чи Нострадамус переможе в гіпотетичному боксерському поєдинку на рингу.

Фокус також писав про те, що штучний інтелект показав, як виглядатиме відновлений Бахмут після війни.