Apple відмовилася від графічних процесорів Nvidia на користь TPU Google для навчання своїх ШІ

Нещодавно компанія Apple анонсувала набір функцій Apple Intelligence на базі штучного інтелекту для пристроїв i.

Pad, Mac і старших i.

Phone 15.

Тепер представлена документація щодо Apple Intelligence, з якої стало зрозуміло, що під час навчання своїх моделей ШІ компанія раптово відмовилася від передових прискорювачів обчислень Nvidia H100 та серверів на їхній основі.

AFM-server є найбільшою мовною моделлю LLM Apple, навченою на 8192 чипах TPUv4 у конфігурації 8×1024 чипів.

Попереднє навчання представляло триетапний процес з обробкою загалом понад 7 трильйонів токенів.

Дані для навчання отримані від вебсканера Applebot, також використовувалися різні ліцензовані «високоякісні» набори даних.

Згадується використання ретельно відібраного коду, математичних обчислень та загальнодоступних наборів даних.

Згідно з внутрішніми тестами Apple їхні моделі показують чудові результати.

Тож компанія сподівається зайняти серйозні позиції в перегонах ШІ попри те, що останньою виходить на цей ринок.

Tom's Hardware.