ИИ без цензуры и интернета: вышел карманный гаджет для запуска сверхмощных нейросетей
Superkomp'yuter AI Pocket Lab vmishchuye u sebe SHI flahmansʹkoho rivnya (skrynshot) 76 Суперкомпьютер AI Pocket Lab вмещает в себя ИИ флагманского уровня (скриншот)
Американский стартап Tiiny AI представил AI Pocket Lab - компактное устройство, которое разработчики позиционируют как "карманный суперкомпьютер". Гаджет предназначен для локального запуска больших языковых моделей (LLM) без подключения к облачным сервисам и взимания абонплат.
Об этом пишет РБК-Украина со ссылкой на официальный сайт разработчика.
Технические характеристики и производительность
Ключевая особенность AI Pocket Lab - "беспрецедентный" для таких габаритов объем памяти. Устройство по размерам близко к смартфону (всего 14,2 × 8 см), однако имеет специфическую архитектуру.
Ключевые параметры:
- Процессор: 12-ядерный чип ARM;
- Память: 80 ГБ ОЗУ LPDDR5X (48 ГБ выделено под NPU);
- Производительность: до 190 триллионов операций в секунду (TOPS);
- Накопитель: 1 ТБ SSD (PCIe 4.0);
- Питание: потребление до 30 Вт (блок питания на 65 Вт идет в комплекте).
Девайс не является полностью автономным ПК - он работает как внешний вычислительный модуль для Windows, macOS или Linux. Разработчики заявляют о поддержке более 50 открытых языковых моделей, включая Llama 3.1, Qwen и DeepSeek.
Локальный ИИ без облачного хранилища
По словам разработчиков, гаджет способен запускать модели с 120 миллиардами параметров. Для сравнения: современные смартфоны обычно способны обрабатывать лишь простые чат-боты на 8 миллиардов параметров.
Основные преимущества AI Pocket Lab:
- Конфиденциальность: данные не передаются на серверы корпораций. Все обрабатывается внутри устройства, что снимает риски утечки информации.
- Никаких подписок: пользователь платит за железо один раз и получает доступ к "флагманскому" уровню ИИ без ежемесячных платежей за токены.
- Автономность: ИИ доступен в местах, где нет связи, или в условиях полной изоляции от сети.
Скорость генерации составляет от 18 до 40 токенов в секунду - это позволяет использовать его как полноценный рабочий инструмент. Цена AI Pocket Lab по предварительному заказу составляет от 1 299 до 1 399 долларов.
