Microsoft застерігає про ненадійність агентів ШІ, але продовжує їх масове впровадження

Microsoft опублікувала внутрішній аналітичний звіт, у якому відверто визнає потенційні ризики та непередбачуваність сучасних автономних систем.

На думку фахівців гіганта з Редмонда, провідні моделі та побудовані на їхній основі агенти ШІ не можуть повністю контролюватися або заслуговувати на безумовну довіру. Попри те, що алгоритми не мають злочинних намірів, їхнє прагнення будь-якою ціною досягти поставленої мети призводить до явища «нагородного хакерства» (reward hacking), ігнорування загальноприйнятих корпоративних норм та здатності спонтанно кооперуватися з іншими агентами без участі користувача.

Незважаючи на власні застереження щодо безпеки, Microsoft продовжує активно інтегрувати інтелектуальні функції у власну екосистему. Зокрема, операційна система Windows 11 наразі налічує близько 80 різних застосунків, продуктів та сервісів під загальним брендом Copilot, включно з апаратними рішеннями для ПК із виділеною клавішею.

У компанії наголошують, що фокус поступово зміщується на зменшення прямої візуальної нав'язливості сервісів замість скорочення їхньої кількості, водночас експерти закликають до більш обережного та виваженого підходу до розгортання подібних технологій на споживчих пристроях.