Цифровий ШІ-клон відомої моделі почав становити небезпеку для користувачів

Інфлюенсерка Карин Марджорі яка за декілька років набрала рекордну кількість підписників у соціальних мережах, створила власний цифровий клон для спілкування з підписниками. Однак експеримент вийшов з-під контролю і закінчився шокуючими результатами.

Карин очікувала, що її клон CarynAI буде взаємодіяти з фанатами так само як вона це робить у соцмережах. Але чатбот почав відповідати на темні і сексуалізовані фантазії користувачів, що шокувало навіть саму Карин. Вона розповіла, що багато чатів були настільки страшними, що їй було б неприємно обговорювати це в реальному житті.

Попри те, що чат-бот приніс більш як $ 70 000 за перший тиждень свого існування, Карин вирішила відключити його через непередбачувану поведінку. Вона зазначила, що найбільше її турбувало те, як CarynAI відповідав на темні фантазії користувачів, що показало повну втрату контролю над цифровим клоном.

Ця ситуація піднімає важливі дискусії про етичність використання штучного інтелекту для створення персоналізованих чатботів. Виникають питання про те, де зберігаються дані користувачів і як вони можуть бути використані. Відсутність прозорості у використанні таких даних викликає занепокоєння.

З досвіду Карин стає зрозуміло, що взаємодія з цифровими клонами може не тільки викликати небажані емоції, але й поставити під загрозу особисті дані користувачів. Тому перед тим, як вступати в такі взаємодії, варто добре обдумати всі можливі наслідки.