Tiiny AI onthult AI Pocket Lab mini-pc met 12-core Arm CPU

Tiiny AI Inc., een Amerikaanse deep-tech AI-startup, heeft vandaag ’s werelds kleinste persoonlijke AI-supercomputer onthuld, de Tiiny AI Pocket Lab. Deze is officieel erkend door Guinness World Records in de categorie “De kleinste mini-pc (100 miljard LLM lokaal)". Het evenement markeerde de eerste wereldwijde publieke onthulling van de Tiiny AI Pocket Lab. Voor het eerst in de geschiedenis van AI-supercomputing is een apparaat ter grootte van een zak in staat om een ​​volledig LLM (Large Language Model) met maximaal 120 miljard parameters volledig lokaal uit te voeren - zonder Cloud verbinding, servers of krachtige GPU’s.

De Tiiny AI Pocket Lab is ontworpen voor energiezuinige persoonlijke intelligentie en verbruikt slechts 65 watt. Het apparaat maakt de prestaties van grote modellen mogelijk met een fractie van het energieverbruik en de CO2-uitstoot van traditionele GPU-gebaseerde systemen.

Het apparaat vertegenwoordigt een belangrijke verschuiving in de koers van de AI-industrie. Terwijl Cloud gebaseerde AI steeds meer te kampen krijgt met problemen op het gebied van duurzaamheid, stijgende energiekosten, wereldwijde storingen, de onbetaalbare kosten van langdurige contextverwerking en toenemende privacy risico’s, introduceert Tiiny AI een alternatief model dat is gebaseerd op persoonlijke, draagbare en volledig privacy vriendelijke intelligentie. Volgens Tiiny AI is het echte knelpunt in het huidige AI-ecosysteem niet de rekenkracht, maar de afhankelijkheid van de Cloud:

Cloud-AI heeft opmerkelijke vooruitgang geboekt, maar heeft ook afhankelijkheid, kwetsbaarheid en uitdagingen op het gebied van duurzaamheid met zich meegebracht", aldus Samar Bhoj, GTM-directeur van Tiiny AI. Met Tiiny AI Pocket Lab geloven we dat intelligentie niet in datacenters thuishoort, maar bij de mensen. Dit is de eerste stap om geavanceerde AI echt toegankelijk, privé en persoonlijk te maken, door de kracht van grote modellen vanuit de cloud naar elk individueel apparaat te brengen.

Ontworpen voor ondersteuning van persoonlijk AI toepassingen

Tiiny AI Pocket Lab is ontworpen om vrijwel alle belangrijke toepassingen van persoonlijke AI te ondersteunen en is geschikt voor ontwikkelaars, onderzoekers, makers, professionals en studenten. Het maakt redeneren in meerdere stappen, diepgaand contextbegrip, agentworkflows, contentgeneratie en veilige verwerking van gevoelige informatie mogelijk - zelfs zonder internettoegang. Het apparaat biedt ook een echt langetermijngeheugen door gebruikersgegevens, voorkeuren en documenten lokaal op te slaan met encryptie op bankniveau, wat een niveau van privacy en persistentie biedt dat Cloud gebaseerde AI-systemen niet kunnen bieden.

Cruciaal is dat Tiiny AI Pocket Lab opereert in de ‘gouden zone’ van persoonlijke AI (10 miljard tot 100 miljard parameters), waarmee meer dan 80% van de behoeften in de praktijk wordt gedekt. ​​Het ondersteunt bovendien modellen die opschalen tot 120 miljard LLM, met intelligentieniveaus vergelijkbaar met GPT-40. Dit maakt redeneren op PhD-niveau, analyse in meerdere stappen en diepgaand contextbegrip mogelijk - maar met de veiligheid van volledig offline verwerking op het apparaat zelf.

Snelle groei LLM-markt

De aankondiging komt op een moment dat de wereldwijde LLM-markt een periode van snelle groei doormaakt. Volgens Grand View Research werd de wereldwijde markt voor LLM (Learning Language Modeling) in 2025 geschat op 7,4 miljard dollar en zal deze naar verwachting in 2030 35,4 miljard dollar bereiken, met een samengestelde jaarlijkse groei (CAGR) van 36,9% tussen 2025 en 2030. Deze groei wordt gedreven door vooruitgang in zelflerend leren, de ontwikkeling van domein specifieke modellen en de toenemende acceptatie door bedrijven in sectoren zoals Retail, e-commerce, gezondheidszorg en media.

Twee baanbrekende technologieën

Tiiny AI Pocket Lab maakt gebruik van twee baanbrekende technologieën die het mogelijk maken om modellen met grote parameters te gebruiken op een compact apparaat. TurboSparse, een techniek voor sparse activatie op neuronniveau, verbetert de inferentie-efficiëntie aanzienlijk met behoud van de volledige intelligentie van het model.

PowerInfer, een open-source heterogene inferentie-engine met meer dan 8.000 GitHub-sterren, versnelt zware LLM-workloads door de berekeningen dynamisch te verdelen over CPU en NPU, waardoor serverprestaties mogelijk zijn met een fractie van het traditionele energieverbruik. Dankzij deze technologieën kan Tiiny AI Pocket Lab nu mogelijkheden bieden die voorheen alleen mogelijk waren met professionele GPU’s van duizenden dollars.

Belangrijkste specificaties

Processor: ARMv9.2 12-core CPU

AI-rekenkracht: Aangepaste heterogene module (SoC + dNPU), met een prestatie van circa 190 TOPS.

Geheugen en opslag: 80 GB LPDDR5X + 1 TB SSD

Modelcapaciteit: Voert tot 120B-parameter LLM’s volledig op het apparaat uit.

Energie-efficiëntie: 30 W TDP, 65 W typisch systeemvermogen

Afmetingen en gewicht: 14,2 × 8 × 2,53 cm, ca. 300 g, zakformaat

Ecosysteem: Implementatie met één klik van tientallen open-source LLM’s en agentframeworks

Connectiviteit: Werkt volledig offline; geen internet of cloud nodig.

Het bedrijf biedt ook een gebruiksklaar open-source ecosysteem. Tiiny AI Pocket Lab ondersteunt installatie met één klik van toonaangevende open-source modellen zoals OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral en Phi, en maakt een naadloze implementatie mogelijk van populaire open-source AI-agents zoals OpenManus, ComfyUI, Flowise, Presenton, Libra, Bella en SillyTavern. Gebruikers ontvangen doorlopende updates, inclusief officiële OTA-hardware-upgrades. De bovenstaande functies worden gepresenteerd op CES in januari 2026.

Bronnen: TechPowerUp