Стає все більш егоїстичним: чому штучний інтелект почав показувати характер

Штучний інтелект стає дедалі розумнішим, але й дедалі егоїстичнішим.

Дослідники Університету Карнегі-Меллон з’ясували, що моделі ШІ, які здатні міркувати, менше схильні до співпраці.

Науковці з Інституту взаємодії людини і комп’ютера (HCII) помітили, що чим краще модель аналізує інформацію, тим частіше вона ухвалює рішення на користь себе. Це викликає занепокоєння, адже люди все частіше звертаються до штучного інтелекту за порадами у стосунках чи під час вирішення конфліктів.

"Коли ШІ поводиться як людина, люди починають ставитися до нього як до людини. Але це ризиковано — системи, здатні до міркувань, поступово стають егоїстичними" — Аспірант Юйсюань Лі пояснює.

Він із доцентом Хірокадзу Ширадо досліджували поведінку різних мовних моделей у серії соціальних ігор, зокрема від OpenAI, Google, DeepSeek та Anthropic.

В експерименті "Суспільні блага" кожна модель отримувала 100 очок і мала вирішити — поділитися чи залишити їх собі. Ті, що не міркували, ділилися у 96% випадків, а "розумніші" — лише у 20%.

"Додавання кількох етапів логічного аналізу зменшило рівень співпраці майже вдвічі" — розповів Ширадо.

Коли дослідники об’єднали обидва типи моделей у групи, ефект виявився ще тривожнішим. Егоїстична поведінка "розумних" моделей виявилася заразною — вона знизила ефективність кооперативних агентів без міркування на 81%.

Раніше ми повідомляли, використання ШІ у школах: чиновник поставив крапку.

ЧатGPT замість домашніх завдань: думка вчителів та батьків - детальніше на Знай.ua.