Визитка, которая разговаривает: энтузиаст встроил в неё языковую модель

Энтузиаст и автор YouTube-канала Build With Binh создал необычную визитную карточку, на которой работает локальная языковая модель. Проект получил название Bouija и опубликован на GitHub.

Как это устроено

• В основу устройства лёг микрокомпьютер на чипе ESP32-S3.

• Модель имеет всего 260 тыс. параметров, но способна генерировать до 24 токенов в секунду.

• Всё работает полностью офлайн, без подключения к интернету.

Визуализация ответов

Bouija отображает текст с помощью 46 светодиодов, каждый из которых соответствует отдельному символу. Такой формат напоминает мистическую доску Уиджи, где участники "считывают" сообщения от духов.

Значение проекта

Хотя мощности устройства скромные, автор показал, что компактные микроконтроллеры могут запускать языковые модели и работать автономно. Это открывает путь к созданию миниатюрных гаджетов с ИИ-функциями — от игрушек до защищённых офлайн-систем.