Appli IA : Local AI

Local AI Playground est une application web innovante conçue pour gérer, vérifier et inférer des modèles d'IA en local. Offrez-vous la possibilité d'expérimenter avec l'IA hors ligne de manière privée, sans nécessiter de GPU.

Grâce à une interface conviviale, lancez une session d'inférence en seulement deux clics avec le modèle WizardLM 7B.

Caractéristiques principales :

• Fonctionnement sur CPU
• Adaptation aux threads disponibles
• Quantification GGML
• Téléchargement simultané et résumable
• Vérification d'intégrité avec digests BLAKE3 et SHA256

Fonctionnant avec un back-end en Rust, Local AI Playground est à la fois compact et efficace en termes de mémoire (<10MB sur Mac M2, Windows, et Linux .deb). Des fonctionnalités futures incluront l'inférence sur GPU et la gestion parallèle de sessions.

Idéal pour ceux qui cherchent une solution locale complète pour manipuler des modèles d'IA, Local AI Playground simplifie tout le processus tout en garantissant la sécurité et la confidentialité de vos données.