В мире Minecraft построили нейросеть в духе ChatGPT: как работает ИИ из 439 млн блоков

Minecraft давно известен как песочница для творчества без ограничений. Но этот проект особенно удивляет размахом и сложностью задумки. С помощью "редстоуна" — виртуального аналога электрических проводов — энтузиаст воссоздал все компоненты настоящего компьютера: токенизаторы, матричные умножители и другие элементы, необходимые для работы ИИ, пишет Tom's Hardware.

Как устроен CraftGPT

Геймер собрал небольшую языковую модель на 5 миллионов параметров (для сравнения, у GPT-3 их 175 миллиардов), обученную на простых английских диалогах. Она имеет словарный запас в 1920 токенов и контекстное окно в 64 токена, чего хватает для коротких бесед.

Размеры виртуального компьютера поражают: чтобы просто облететь его на видео, автору пришлось использовать специальный мод Distant Horizons. При этом вся логика реализована на стандартных игровых механиках, без использования модов или чит-команд.

Для чего это нужно

Конечно, о практическом применении такого чат-бота речи не идет. Качество ответов страдает: модель часто уходит от темы, делает грамматические ошибки или просто выдает бессмысленный набор слов. Впрочем, главный минус — скорость. Даже при ускорении игрового времени в 40 000 раз с помощью специального сервера, на генерацию одного ответа уходит около двух часов.

Этот проект — не попытка создать рабочего конкурента ChatGPT, а скорее произведение инженерного искусства. Это наглядная демонстрация того, что базовые принципы работы сложных систем, таких как ИИ, могут быть воссозданы даже в таких, казалось бы, простых средах, как Minecraft. Журналисты назвали идею демонстрацией человеческого упорства и креативности.

Раньше Фокус писал, что ChatGPT все реже используется для работы. Большинство пользователей ChatGPT сегодня обращаются к чат-боту не за рабочими задачами, а за советами, информацией и помощью с текстами.