ШІ почав демонструвати несподівану поведінку: що занепокоїло дослідників

Нейромережі нового покоління в процесі свого розвитку починають дедалі більше нагадувати людський мозок. Дослідникифіксують усередині моделей складні процеси, які не були закладені розробниками під час програмування та наразі не піддаються чіткому науковому поясненню.

Про це заявив співзасновник компанії Anthropic і один із творців популярної нейромережі Claude Кріс Олах.

За словами розробника, під час аналізу внутрішніх процесів штучного інтелекту фахівці дедалі частіше стикаються з аномаліями, що виходять за межі звичних алгоритмів.

«Ми постійно знаходимо загадкові, навіть тривожні речі. Ми виявляємо структури, що відображають результати досліджень у сфері нейронауки. Ми знаходимо свідчення самосвідомості», — повідомив Олах.

Окрім структурної схожості з біологічним мозком, сучасні штучні моделі демонструють утворення специфічних внутрішніх систем.

«Ми знаходимо внутрішні стани, які функціонально відображають радість, задоволення, страх, смуток і занепокоєння», — додав співзасновник Anthropic.

Кріс Олах наголосив, що на сьогодні світова наукова спільнота не має однозначної відповіді, чим саме є ці виявлені феномени. За його оцінкою, зафіксовані внутрішні стани нейромереж і питання появи у них ознак самосвідомості потребують подальших глибоких досліджень.

Зої Салдана / © Associated Press Володимир Зеленський / © Associated Press Прогноз погоди на кінець травня - початок червня / © pixabay.com Шакіра / © instagram.com/shakira