Компактните ИИ устройства стават все по-популярни, но едно ново стартиращо предприятие преодоля бариерите, като представи най-малкия ИИ суперкомпютър в света, който на хартия изглежда изключително мощен.

Edge AI се превърна в нововъзникващ сегмент на компютърната индустрия главно защото внедряването на модели с отворен код на локални машини позволява по-персонализирана работна натоварване. Това обаче изисква и скъп хардуер. Устройства като DGX Spark на NVIDIA могат да струват до 4000 долара, което не е по джоба на обикновения потребител. Стартъпът Tiiny AI планира да запълни тази празнина не само чрез въвеждането на рентабилно решение, но и чрез представянето на устройство, което се счита за „най-малкия“ суперкомпютър в света, наречен Tiiny AI Pocket Lab.

Интересното е, че устройството е с размери само 14.2 × 8 × 2.53 cm и тежи 300 грама, но Tiiny AI твърди, че суперкомпютърът може успешно да използва модел със 120 милиарда параметри, което е уникално постижение. Казват, че LLM, които могат да се използват с тази машина, са идеални за „разсъждения на ниво докторска степен, многоетапен анализ и дълбоко контекстуално разбиране“. С възможностите си на устройството AI Pocket Lab е идеален не само за потребители, но и за тези, които искат да експериментират с локално внедряване на LLM.

Въз основа на информацията, разкрита от Tiiny AI, AI Pocket Lab поддържа модели от GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi. Един от най-впечатляващите аспекти на AI Pocket Lab е, че може да предостави 190 TOPS с дискретен NPU на борда. С 80 GB LPDDR5X RAM на борда можете да активирате агресивна квантизация, което позволява на 120B модел да работи безпроблемно в локална среда.

Устройството ще бъде представено на CES 2026. Въпреки че компанията не е разкрила подробности за датата на пускане на пазара и наличността в търговската мрежа, AI Pocket Lab определено изглежда като многообещаващо устройство.

Снимка: Pexels/Tiiny AI

Виж още: Ето как да използвате Photoshop в ChatGPT, за да редактирате снимки (ВИДЕО)