У 24 рази швидше за суперкомп'ютери: представлено чип, який зробить ШІ "розумнішим"

Компанія Google представила свій найпотужніший і енергоефективний тензорний процесор (TPU) під назвою Ironwood, розроблений спеціально для моделей штучного інтелекту (ШІ).

Про новий TPU розповів Амін Вахдат, віцепрезидент і генеральний менеджер Google з машинного навчання, систем і хмарного ШІ, на віртуальній пресконференції перед заходом Google Cloud Next 25.

Повідомляється, що Ironwood створений для підтримки наступної фази генеративного ШІ та його величезних обчислювальних і комунікаційних вимог. Чип робитиме ШІ-моделі швидшими та розумнішими, особливо в роботі над завданнями, що вимагають міркувань або прогнозування. Ця діяльність відома як "висновок".

"Це те, що ми називаємо "епохою виведення", коли агенти ШІ будуть активно витягувати і генерувати дані для спільного розроблення ідей і відповідей, а не просто даних", — зазначив Вахдат.

За даними компанії, за масштабного розгортання TPU має у 24 рази більшу обчислювальну потужність, ніж будь-який суперкомп'ютер у світі. Він може забезпечити 42,5 екзафлопс обчислювальної потужності при масштабуванні до 9216 чипів на модуль. Ці показники перевищують 1,7 екзафлопс El Capitan — найшвидшого у світі суперкомп'ютера.

Ironwood також поставляється з 192 ГБ пам'яті з високою пропускною здатністю (HBM). Це в шість разів більше, ніж у Trillium, TPU попереднього покоління від Google, анонсованого минулого року. Ironwood також може досягати 7,2 терабіта на секунду на чіп із погляду пропускної спроможності пам'яті, що в 4,5 раза більше, ніж у Trillium.

"У той час як доступна потужність є одним з обмежень для надання можливостей ШІ, ми забезпечуємо значно більшу потужність на ват для робочих навантажень клієнтів", — наголосив представник Google.