Thinking Machines Lab propose une alternative US en IA open-weight

UNE NOUVELLE OPTION POUR LES ENTREPRISES : INKLING, LE MODÈLE D'IA DE THINKING MACHINES LAB
Les entreprises recherchent des solutions d'intelligence artificielle (IA) pour améliorer leurs processus et prendre des décisions éclairées. Thinking Machines Lab, une startup de San Francisco, a récemment lancé Inkling, son premier modèle d'IA généraliste. Ce modèle utilise une architecture de mixture-of-experts avec 975 milliards de paramètres et peut être personnalisé grâce à la plateforme Tinker. Inkling est conçu pour répondre aux besoins des entreprises en matière de codage, de compréhension de documents et d'automatisation de workflows.

Caractéristiques techniques
Inkling est un modèle d'IA puissant qui peut traiter des contextes de jusqu'à 1 million de tokens. Il a été pré-entraîné sur 45 billions de tokens et peut être fine-tuné grâce à la plateforme Tinker. Le modèle est également doté d'un paramètre de contrôle de l'effort de raisonnement, qui permet aux développeurs de trouver un équilibre entre les performances et la quantité de tokens générés.

Impact sur les entreprises
Inkling offre une alternative aux modèles d'IA développés en Chine, qui dominent actuellement le marché. Les entreprises occidentales peuvent bénéficier de cette option pour des raisons réglementaires et de sécurité. Selon Biswajeet Mahapatra, analyste principal chez Forrester, Inkling peut être particulièrement utile pour les entreprises qui ont besoin de modèles d'IA personnalisés pour des tâches spécifiques. Cependant, le coût de déploiement du modèle complet peut être élevé, ce qui pourrait inciter certaines entreprises à opter pour des modèles plus légers comme Inkling-Small.

Sécurité et gouvernance
Thinking Machines Lab a entraîné Inkling pour qu'il soit calibré, suive les instructions et résiste à la censure. Le modèle a obtenu de bons résultats dans les tests de sécurité, mais il est important de noter que la personnalisation du modèle peut affaiblir les filtres de sécurité. Les entreprises doivent donc retester la sécurité du modèle après l'avoir personnalisé et s'assurer que les actions de l'agent d'IA sont logées, auditées et approuvées par des humains pour les tâches à haut risque.

En conclusion, Inkling offre une nouvelle option pour les entreprises qui recherchent des solutions d'IA personnalisées et sécurisées. Bien que le coût de déploiement puisse être élevé, les avantages de la personnalisation et de la sécurité peuvent être considérables. Les entreprises doivent donc évaluer soigneusement leurs besoins et choisir la solution d'IA qui convient le mieux à leurs objectifs et à leurs ressources. Pour en savoir plus, vous pouvez consulter les ressources sur les modèles de langage ou visiter le site web de Thinking Machines Lab.

---

Source : InfoWorld​