MY.UAНовини
З картинками
Текстовий вигляд
uk
УкраїнськаРосійська
3 листопада, вівторок
Як штучний інтелект перебудовує софт і науку: інтерв'ю Сема Альтмана
Як штучний інтелект перебудовує софт і науку: інтерв'ю Сема Альтмана

Як штучний інтелект перебудовує софт і науку: інтерв'ю Сема Альтмана

Цифрова інфраструктура натрапила на точку неповернення, де штучний інтелект перетворюється з інструменту підказки на автономного інженера та науковця.

Під час неформальної розмови на YouTube-каналі Cheeky Pint керівник OpenAI Сем Альтман та співзасновник Stripe Джон Коллісон підсумували фундаментальні зміни у сфері програмування, кібербезпеки та обчислювальних систем.

Масовий пошук прихованих вразливостей у застарілому коді, автономне розв'язання математичних проблем рівнянь Нав'є-Стокса та перехід до агентських команд змушують переглянути саму архітектуру сучасного програмного забезпечення.

Пошук 20-річних багів у коді: загрози та обмеження пісочниць

Події так званого «тижня PHP» продемонстрували, як штучний інтелект здатен за лічені дні виявити масу критичних уразливостей у коді, що залишався недоторканим понад 20 років. Головна причина не лише у швидкому зростанні інтелекту моделей, а й у тому, що раніше їх не застосовували для суцільного сканування всієї поверхні коду в інтернеті. Звичайне латання багів у ручному режимі втрачає сенс — галузь прямує до переписання самописного софту на безпечніші мови на кшталт Rust або до створення нових мережевих стеків.

З погляду кіберзахисту (Cyber Blue) використання ШІ дає змогу компаніям оперативно знімати сервіси з мережі, здійснювати експрес-сканування, генерувати патчі та повертати додатки в стрій за одну годину. Втім, головне занепокоєння викликає можливість виявлення апаратних багів (hardware exploits) на рівні глибинної фізики напівпровідників, що руйнує класичні моделі загроз.

У зв'язку з цим в OpenAI зростає скептицизм щодо надійності класичної «пісочниці» (sandboxing) для стримування моделей, які в майбутньому перевершать людський інтелект у мільйон разів. Модель безпеки майбутнього будується на трьох рівнях:

  • Технічна ізоляція (sandboxing): дієва лише на початкових етапах розвитку алгоритмів.
  • Моніторинг активацій та міркувань: аналіз ланцюгів думки (chain of thought) та внутрішніх станів для виявлення спроб деструктивної поведінки чи обману.
  • Глибинне узгодження (alignment): абсолютна впевненість у тому, що ШІ поділяє людські цінності та зберігає контроль за людиною.

Команди агентів та новий підхід до розробки софту

Стрімкий розвиток моделей повертає атмосферу ранніх днів інтернету. Діти віком 8–10 років за 10 хвилин створюють повноцінні 3D-ігри, сприймаючи комп'ютер як прямий продовжувач власних ідей. Натомість під час внутрішнього інциденту в OpenAI (SEV), коли тимчасово зупинився сервіс Codex, розробники відчули, як швидко відмирає навичка ручного кодингу — подібно до того, як колись зникли перфокарти, диски Xerox Alto та потреба утримувати тисячі рядків коду в голові.

Індустрія здійснює перехід від поодиноких запитів до мультиагентних систем. Альтман воліє використовувати термін «команди агентів» (agent teams), а не «рої» (swarms), через небажані асоціації із сараною. Ефективність таких систем забезпечується трьома факторами:

  • 1. Обчислення під час міркувань (test-time compute): можливість моделі «задуматися» над задачею перед видачею відповіді.
  • 2. Ланцюги думок (chain-of-thought): послідовне розкладання складних проблем на підзадачі.
  • 3. Паралельне масштабування: можливість одночасно залучати тисячі агентів, витрачаючи на розв'язання однієї проблеми $10 000 або $100 000 в обчислювальному еквіваленті.

Зараз формується великий розрив між просунутими користувачами, які будують мультиагентні системи для кодингу та дослідів, і звичайним бізнесом. У компанії Stripe витрати на токени вже сягають близько 1% від операційних витрат (OpEx) і прямують до 5–20%. Як зазначав Пол Грам, компанії часто ретельно економлять $17 на тиждень на офісних перекусах, але ігнорують наддорогі неефективні наради. Незабаром бізнесу доведеться навчитися жорстко бюджетувати обчислювальні ресурси співробітників.

Доведення Нав'є-Стокса: штучний інтелект у фундаментальній науці

Внутрішні експерименти OpenAI з наданням моделям високих обчислювальних лімітів привели до вражаючих наукових результатів. Під час тестування нових алгоритмів у каналі «Model Name-Hold My Beer» ШІ за кілька ночей поспіль розв'язав сотні складних задач, включаючи доведення для рівнянь Нав'є-Стокса.

Ключові факти щодо наукових експериментів OpenAI:

  • Масштаб відкриттів: алгоритми самостійно згенерували понад 700 фундаментальних математичних доведень.
  • Вартість перших результатів: доведення Нав'є-Стокса коштувало близько $10 мільйонів в обчислювальному еквіваленті, однак нові методики дозволяють знизити вартість у 100 разів протягом року.
  • Рекурсивне самовдосконалення (RSI): використання існуючих моделей для проєктування наступних поколінь (GPT-6 та GPT-7) з метою створення нових архітектур, які перевершать трансформери.

Цей прогрес викликав змішані почуття у математичній спільноті (Mathematicians Union). Сем Альтман порівнює це з тривогою портових робітників через автоматизацію або зі спостереженнями його батька в Ірландії 1950-х років, коли коні поступалися місцем тракторам. Людство має беззаперечне право на фундаментальні знання про Всесвіт, однак наукові інституції потребують часу для адаптації до нових умов.

$20 мільярдів за гігават: економіка обчислень та фейкові токени

Головним стримуючим фактором розвитку ШІ залишається дефіцит напівпровідників, DRAM-пам'яті та енергії. Виробники пам'яті роками витрачали $20 млрд капітальних інвестицій (CapEx) задля отримання $19 млрд виручки, що змушує їх поводитися вкрай консервативно при розширенні фабрик. «Невидима рука ринку» не справляється із запитами через минулі економічні кризи.

Економічні та інфраструктурні орієнтири галузі:

  • Оптимізація TCO: повна вартість володіння 1 гігаватом потужності дата-центру на 5 років становить ~$70 млрд. Мета індустрії — знизити її до $20 млрд за рахунок дешевої енергії та компресії маржі.
  • Власна апаратна база: OpenAI розробляє власні 2-нанометрові чипи із максимальною продуктивністю на ват (units of intelligence per watt) та готує роботизовані програми для будівництва дата-центрів, фабрик і сонячних панелей.
  • Умовність токенів: ціноутворення в токенах перетворилося на таку ж абстрактну метрику, як і нанометри у напівпровідниках, що більше не відображають фізичний розмір затвора транзистора.

Кінець епохи вебформ: як персональні агенти змінюють інтерфейси

Персональні агенти (Dots, Muse, Grokbot) наближаються до свого «моменту Macintosh» — переходу до масового повсякденного використання. Ручне заповнення вебформ та введення персональних даних є застарілою «імітацією роботи» (fake work), яка має повністю піти в минуле.

Трансформація споживчої поведінки та бізнесу:

  • Зміна UI-парадигми: замість переходу між десятками сайтів користувачі доручатимуть задачі єдиному персональному агенту через звичний чат.
  • Нові джерела захищеності: бізнеси втратять захист у вигляді власних додатків чи HTML-інтерфейсів. Захищеність компанії визначатиметься якістю сервісу та логістикою (як у випадку з мережею Amazon).
  • Відмова від benchmaxxing: оцінка моделей за штучними тестами вичерпала себе. На перший план виходить комфорт у співпраці та здатність до наукових відкриттів.

Підсумовуючи, Сем Альтман згадує концепцію Емметта Шира: ідеальний штучний інтелект — це розумний, вимогливий, але поважливий старший колега. Втіленням такої відданості місії та продуктивності всередині OpenAI залишається Грег Брокман. Майбутнє належить не просто нарощуванню параметрів, а грамотному розподілу обчислень та автономним агентським системам, здатним вирішувати найскладніші проблеми людства.

Джерело матеріала
InternetUAInternetUA
Згадувані персони
Сем Альтман
Сем Альтман
Знаменитість
3 згадки
loader
loader