llaumgui
Localai fonctionne bien en CPU selon les modeles. Après comme j’ai mis dans ma doc, je fais tourner avec un r5 5600g sur CPU pour le moment.
Après trouve toi une radeon Vega ou NVIDIA 1050 cela améliore pas mal normalement.
Faut voir cette solution. Je vais tester avec le A6 9500 dispo pour tester les perfs. Sans npu c’est vraiment trop léger le n100…
Tiens pour info ta aussi Pine64 qui dispose de petites cartes arm avec npu intégré, a voir si c’est toujours dispo…
