Tiiny AI Pocket Lab अनवील: 12-Core ARM CPU और 80GB RAM के साथ आया दुनिया का सबसे छोटा 100B LLM डिवाइस

Tiiny AI Pocket Lab, एक अमेरिकी स्टार्टअप कंपनी है जिसने पर्सनल LLM कंप्यूटिंग को पॉकेट साइज में फिट करने की दिशा में गेम-चेंजिंग कदम उठाया है।

Tiiny AI Pocket Lab अनवील: 12-Core ARM CPU और 80GB RAM के साथ आया दुनिया का सबसे छोटा 100B LLM डिवाइस
Tiiny AI Pocket Lab

Tiiny AI कंपनी ने अपना अल्ट्रा-कम्पैक्ट Mini PC Pocket Lab लॉन्च किया है, जो इतना छोटा है कि आराम से जेब में आ जाए, लेकिन परफॉर्मेंस ऐसी कि 100B+ पैरामीटर वाले बड़े LLMs भी लोकली रन कर सके।

Guinness World Record वाला Tiiny AI Pocket Lab Mini PC

Tiiny AI Pocket Lab को कंपनी ने दुनिया का “World’s smallest mini PC for 100B LLM Local” बताया है, जिसे Guinness World Records ने भी नोट किया है।

इसका 14.2 × 8 × 2.5 cm साइज और सिर्फ 300 ग्राम वज़न वाले इस पॉकेट लैब की सबसे बड़ी खासियत इसका पावर कंजम्पशन नहीं, बल्कि इसकी AI कंप्यूटिंग कैपेबिलिटी है। यह डिवाइस बिना इंटरनेट के, पूरी तरह offline mode में बड़े-बड़े मॉडल्स चला सकता है — जो प्राइवेसी की चिंता करने वाले यूज़र्स के लिए बड़ा प्लस पॉइंट है।

पॉकेट में Extreme AI Compute Power

Tiiny AI Pocket Lab अनवील: 12-Core ARM CPU और 80GB RAM के साथ आया दुनिया का सबसे छोटा 100B LLM डिवाइस

Pocket Lab के अंदर लगा ARMv9.2 architecture वाला 12-core CPU अपनी क्लास में पहले से ही काफी पावरफुल है, लेकिन असल गेम बनाती है इसकी AI NPU, जो 160 TOPS तक compute deliver करती है।

इसके अलावा CPU में अतिरिक्त 30 TOPS भी मिलते हैं, जिससे टोटल AI compute capacity और भी बढ़ जाती है। यह सीधे-सीधे एक full-size AI workstation को पॉकेट में पावर देने जैसा है।

80GB LPDDR5X RAM

Memory इस क्लास के डिवाइस में सबसे बड़ा bottleneck रहती है, लेकिन Tiiny AI ने यहां बड़ा गेम खेला है:

Tiiny AI Pocket Lab अनवील: 12-Core ARM CPU और 80GB RAM के साथ आया दुनिया का सबसे छोटा 100B LLM डिवाइस

Pocket Lab में 80GB LPDDR5X RAM दी गई है, जिसमें से 48GB सिर्फ NPU को allocate है।
इसके साथ आप theoretically ऐसे मॉडल भी लोड कर सकते हैं जिनके parameters 70B, 100B और company के दावे के मुताबिक 120B तक जाते हैं।

हालाँकि, 80GB memory के साथ 120B models चलाना quantization पर बहुत डिपेंड करेगा, लेकिन फिर भी पॉकेट-साइज डिवाइस की दुनिया में यह दावा बेहद इम्प्रेसिव है।

Open-Source Models का One-Click Install

Tiiny AI कहता है कि Pocket Lab में बड़े ओपन-सोर्स मॉडल्स को one-click install के साथ चलाया जा सकेगा।

•Supported model families में शामिल हैं:
• Llama
• Qwen
• DeepSeek
• Mistral
• Phi
• GPT-OSS

डिवाइस OTA अपडेट भी देगा ताकि मॉडल्स और runtime optimized रहते रहें।

•Hardware Specs
• 12-core ARM CPU (ARMv9.2)
• 160 TOPS NPU + 30 TOPS CPU AI compute
• 80GB LPDDR5X RAM (48GB NPU reserved)
• 1TB SSD storage
• 65W power envelope
• Fully Offline LLM Execution

हार्डवेयर के हिसाब से Pocket Lab एक mini server जैसा महसूस होता है, लेकिन साइज में एक छोटे पॉवरबैंक जैसा लगता है।

क्या वाकई 120B मॉडल चलेंगे?

कंपनी दावा करती है कि Pocket Lab 120B parameter model चला सकता है, लेकिन quantization के बारे में कोई जानकारी नहीं दी गई है।
4-bit quantization के साथ भी 120B models memory hungry होते हैं। इसलिए असली परफॉर्मेंस CES डेमो या रियल-लाइफ टेस्ट के बाद ही साफ होगी।

Normal Users के लिए? शायद Overkill!

अगर आप सिर्फ हल्की AI processing, coding, editing या productivity चाहते हैं, तो Pocket Lab आपके यूज़ केस से कहीं ऊपर की मशीन है।
ऐसे users के लिए Minisforum जैसे mini PC ज्यादा practical और value-for-money ऑप्शन होंगे।

Also Read: Asus ROG GR70: दमदार Ryzen 9 और RTX 5070 वाला Compact Mini Gaming PC हुआ लॉन्च