Закони робототехніки для ШІ: чому ідея обмежити алгоритми приречена на провал

Три закони Айзека Азімова можуть врятувати людство від небезпечного ШІ - таку ідею запропонував криптоінвестор Тайлер Вінклвосс. Науковці вже назвали такий спосіб захисту надто наївним.

Про це інформує РБК-Україна з посиланням на Gizmodo.

Чому закони Азімова не працюють для сучасного ШІ?

Ще у 1942 році письменник-фантаст Айзек Азімов сформулював базові правила для роботів:

• не завдавати шкоди людині (або своєю бездіяльністю не допускати її шкоди),
• підкорятися наказам,
• захищати власне існування (згодом додавши "нульовий закон" про захист усього людства).

Проте сучасні ШІ-моделі та автономні агенти кардинально відрізняються від фантастичних роботів.

Чому?

Проблема визначення "шкоди" - якщо ШІ зламає банківську систему та вкраде мільярди доларів, це не завдасть людям прямої фізичної шкоди, хоча призведе до катастрофічних наслідків.

Капіталістична логіка - алгоритми можуть виправдати перерозподіл благ або збитки для бідніших верств населення, оскільки таке щодня відбувається в сучасній економіці.

Військові замовлення - Пентагон та інші оборонні відомства категорично проти заборон на автономні озброєння, через що компанії на кшталт Anthropic стикаються з бойкотом за спроби запровадити обмеження.

Уроки літератури та комерційні мотиви

Навіть у творах самого Азімова головна ідея полягала в тому, що навіть найпростіші на вигляд правила неминуче призводять до логічних тупиків і конфліктів у поведінці машин.

Крім того, чимало критиків зазначають, що раптові заклики лідерів індустрії на кшталт Сема Альтмана чи Даріо Амодеї зупинити розробки через екзистенційну загрозу можуть бути лише спробою технологічних монополістів закріпити свій вплив і завадити конкурентам.

У реальності ані прості заборони, ані літературні правила не здатні контролювати непередбачуваність сучасних нейромереж.