Il y a quelques mois, nous avons évoqué le lancement du mini PC Tiiny AI Pocket Lab un mini PC doté d’une architecture interne ARM extrêmement puissante et logé dans un châssis de poche. Tiiny AI a maintenant révélé les détails du prix de ce produit, qui devrait bientôt faire l’objet d’un crowdfunding.

D’une taille d’environ 14,2 x 8 x 2,5 cm, le Pocket Lab mini PC pèse à peine 300 grammes, ce qui le rend incroyablement compact compte tenu de ses caractéristiques.

Le mini PC de poche peut exécuter localement des LLM de 120B

Selon Tiiny AI, le Pocket Lab peut faire tourner localement des LLM avec jusqu’à 120 milliards de paramètres, ce qui semble assez exagéré au vu du matériel proposé. Les détails exacts du matériel sont les suivants :

cPU ARM à 12 cœurs, 80 Go de mémoire LPDDR5XNPU discrète avec jusqu’à 160 TOPS (INT8) de calcul1 TB SSDtDP de 30 watts

Même avec une quantification de 4 bits plutôt agressive, l’exécution d’un modèle de 120 milliards de paramètres pourrait ne pas être une tâche facile. Tiiny AI revendique un taux de sortie de 21,14 tokens/s dans le modèle GPT-OSS 120B, ce qui est intéressant, mais les personnes intéressées devraient certainement attendre les évaluations de tierces parties.

Les campagnes de financement participatif (crowdfunding) avec beaucoup de risquesil en va de même pour le Pocket Lab de Tiiny AI.

En ce qui concerne le prix, le mini PC Pocket Lab sera disponible au prix de 1 399 $ pendant la phase de crowdfunding pendant la phase de crowdfunding, ce qui est logique compte tenu du matériel proposé. Les premiers donateurs, qui sont prêts à verser 10 dollars pour réserver leur unité, bénéficieront d’une réduction de 100 dollars.

Dans l’ensemble, nous aimerions rappeler à nos lecteurs que les campagnes de crowdfunding sont associées à des retards imprévus, surtout si l’on considère que Tiiny AI n’a pas d’antécédents qui plaident en sa faveur.

D’autres personnes, qui ont besoin d’un mini PC de taille normale avec de bonnes performances GPU, seront probablement mieux servies par les systèmes AMD Strix Halo, tels que le GMKtec Evo-X2, actuellement disponible pour un peu moins de 1 930 $ sur Amazon.