Premier aperçu : Lemonade sert un AI local avec des limitations

DÉCOUVREZ LEMONADE, L'APPLICATION AI LOCALE D'AMD
L'application Lemonade, créée par AMD, est un serveur avec interface graphique pour exécuter des modèles d'intelligence artificielle (IA) localement. Elle est similaire à des projets comme LM Studio et offre une intégration avec des applications tierces qui utilisent des API standard. Cependant, elle manque de flexibilité dans sa configuration et ne supporte pas les accélérateurs NVIDIA.

Fonctionnalités et limitations
Lemonade prend en charge une variété de runtimes et de moteurs de backend, notamment les GPU AMD, les NPUs Ryzen, Vulkan et l'exécution CPU. Elle supporte également les back-ends llamacpp, whispercpp, sd-cpp, kokoro, ryzenai-llm et flm. Cependant, la prise en charge de NVIDIA est limitée, ce qui signifie que les utilisateurs de matériel NVIDIA devront chercher ailleurs pour exécuter des modèles comme StableDiffusion.

Interface graphique et utilisation
L'interface graphique de Lemonade est une interface de chat où les utilisateurs peuvent interagir avec des modèles d'IA locaux. Cependant, elle manque de flexibilité dans la configuration des modèles et ne propose que des options de base comme la température, le top K et P, la pénalité de répétition, etc. De plus, il n'y a pas d'historique de chat et les images générées ne peuvent pas être enregistrées facilement.

Utilisation et perspectives
Lemonade est utile pour les utilisateurs qui souhaitent travailler avec des GPU AMD et des NPUs Ryzen, mais elle ne convient pas aux scénarios où une plus grande flexibilité est requise. Les utilisateurs qui ont besoin de prendre en charge des appareils NVIDIA devront chercher des alternatives. Malgré ses limitations, Lemonade offre une façon pratique d'exécuter des modèles d'IA locaux et peut être utilisée comme composant intégrable dans d'autres applications. Pour en savoir plus, vous pouvez consulter la documentation de Lemonade ou visiter le site web de Lemonade.

---

Source : AWS debuts Graviton-powered Redshift RG instances to cut analytics costs | InfoWorld​