Американский стартап Tiiny AI представил AI Pocket Lab - компактное устройство, которое разработчики позиционируют как "карманный суперкомпьютер". Гаджет предназначен для локального запуска больших языковых моделей (LLM) без подключения к облачным сервисам и взимания абонплат.
Об этом пишет РБК-Украина со ссылкой на официальный сайт разработчика.
Ключевая особенность AI Pocket Lab - "беспрецедентный" для таких габаритов объем памяти. Устройство по размерам близко к смартфону (всего 14,2 × 8 см), однако имеет специфическую архитектуру.
Ключевые параметры:
Девайс не является полностью автономным ПК - он работает как внешний вычислительный модуль для Windows, macOS или Linux. Разработчики заявляют о поддержке более 50 открытых языковых моделей, включая Llama 3.1, Qwen и DeepSeek.
По словам разработчиков, гаджет способен запускать модели с 120 миллиардами параметров. Для сравнения: современные смартфоны обычно способны обрабатывать лишь простые чат-боты на 8 миллиардов параметров.
Основные преимущества AI Pocket Lab:
Скорость генерации составляет от 18 до 40 токенов в секунду - это позволяет использовать его как полноценный рабочий инструмент. Цена AI Pocket Lab по предварительному заказу составляет от 1 299 до 1 399 долларов.