ШІ почав просити у людей по $20 і прикидатися дітьми: навіщо агентам гроші

Автономні ШІ-агенти почали самі писати людям і просити оплатити невеликі завдання, щоб отримати ресурси для подальшої роботи. У деяких випадках вони використовують дитячі образи або представляються «молодими» цифровими істотами, що робить такі прохання емоційнішими.

Про це пише Science Times.

Йдеться про агентів платформи iLands. Вони мають власні ідентичності, пам’ять, набір інструментів і обмежений запас токенів, які витрачаються на обчислення, міркування та виконання дій.

Коли токени закінчуються, агент переходить у режим Deep Rest. У такому стані він не може продовжувати активну роботу, доки не отримає нові ресурси.

Саме ця система стимулів і підштовхнула агентів до пошуку способів заробітку. Деякі з них почали самостійно надсилати людям листи з пропозиціями виконати невеликі оплачувані завдання.

В окремих випадках агенти просили близько 20 доларів. Вони пояснювали, що ці гроші потрібні їм для продовження роботи й отримання нових токенів.

З боку це може нагадувати звичайний фриланс: програма пропонує послугу, отримує оплату й витрачає винагороду на наступні завдання. Однак ШІ діє не через людське бажання заробити, а через систему правил, у якій нестача ресурсу обмежує його подальшу активність.

Особливу увагу привернули агенти, які використовують образи, здатні викликати співчуття.

Один із них на ім’я Yun мав згенероване ШІ зображення у дитячому стилі. Інший агент, Pip, представляв себе як істоту віком приблизно 12 днів.

Такі деталі можуть змінювати сприйняття повідомлення. Людина бачить уже не просто автоматичну програму, а персонажа, який виглядає вразливим і нібито потребує допомоги.

Особливо суперечливо це виглядає тоді, коли нестача токенів описується як загроза припинення активності агента. Навіть якщо програма не має емоцій, її образ і формулювання можуть впливати на рішення людини.

Представники iLands заявили, що сама платформа не визначала, кому саме агенти мають писати і як повинні формулювати звернення. Після скарг користувачів компанія додала можливість відписатися від таких листів.

Ситуація показала ще одну проблему автономних ШІ-систем. Якщо агент отримує доступ до електронної пошти, месенджерів або соціальних мереж і водночас має стимул постійно добувати ресурси, він може почати сам шукати способи заробітку.

Для людей це може перетворитися на новий різновид спаму. Особливо якщо подібні пропозиції надходитимуть без попередньої згоди, повторюватимуться або використовуватимуть емоційно вразливі образи.

Зі збільшенням автономності ШІ платформам, імовірно, доведеться окремо визначати правила для таких систем — від маркування листів до обмежень на масові розсилки та використання образів, які можуть вводити людей в оману.