Ілон Маск: «Людські дані для навчання ШІ — вичерпані. Потрібні синтетичні, які технологія створить сама»

Ілон Маск підтвердив думки деяких інших експертів щодо нестачі реальних даних для навчання штучного інтелекту — причому дефіцит сформувався ще з минулого року.

Маск фактично повторив тези інших дослідників. Раніше колишній науковий співробітник OpenAI Ілля Суцкевер зазначив, що галузь ШІ досягла «пікових даних» і передбачив, що брак інформації для навчання змусить змінити спосіб розробки моделей, який використовується на сьогодні.

Насправді інші технологічні гіганти, як-от Microsoft, Meta, OpenAI й Anthropic, вже використовують синтетичні дані для навчання своїх флагманських моделей. За оцінками Gartner, у 2024 році 60% даних, використаних для проєкту ШІ та аналітики, були згенеровані штучно.

Серед інших переваг використання синтетичних даних — значна економія коштів. До прикладу, ШІ-стартап Writer каже, що його модель, навчена на штучно згенерованих даних, обійшлась всього у $700 тис. (модель OpenAI подібного розміру, до прикладу, коштувала близько $4,6 млн).

Водночас деякі дослідження передбачають, що використання синтетичних даних може призвести до колапсу моделі, коли вона стає менш креативною та більш упередженою в результатах.

Нагадаємо, що Ілон Маск володіє стартапом штучного інтелекту xAI, який на момент запуску просував себе, як компанію, що прагне «зрозуміти справжню природу Всесвіту». Станом на листопад 2024 року оцінка xAI сягала $50 млрд. Наразі єдина широкодоступна розробка стартапу — це чатбот Grok, який навчався на дописах в Twitter. Він інтегрований у соцмережу, а відучора доступний в окремому iOS-застосунку (поки лише в США).

Слід також нагадати, що Маск неодноразово закликав ставитись до штучного інтелекту обережно і навіть підписав відкритого листа з вимогою призупинити розробку технології на пів року. Він також продовжує активно критикувати OpenAI, яку звинувачує у зосередженні на заробітку грошей і відході від початкової мети — розробки штучного інтелекту на благо людства (насправді ж із заробітками у компанії Сема Альтмана поки не все так чудово).