Le coup de génie de Google, qui a trouvé un moyen de régler la crise de la mémoire vive (RAM) pour de bon

LA REVOLUTION DE LA MEMOIRE VIVE : GOOGLE TROUVE UNE SOLUTION

L'intelligence artificielle (IA) a connu un essor considérable ces dernières années, mais cette croissance a également entraîné une crise de la mémoire vive (RAM). Les IA ont besoin de grandes quantités de mémoire pour fonctionner, ce qui a provoqué une pénurie de RAM et une augmentation des prix. Cependant, Google a peut-être trouvé une solution à ce problème avec son nouvel algorithme TurboQuant.

Le problème de la mémoire vive
Les IA génératives, telles que les chatbots et les systèmes de reconnaissance d'images, ont besoin de grandes quantités de mémoire pour fonctionner. Elles doivent charger leurs paramètres de base, qui pèsent plusieurs dizaines ou centaines de giga-octets, et maintenir un espace de travail actif pour stocker les informations. Cela a provoqué une crise de la mémoire vive, avec des prix qui s'envolent et des multiplications par quatre ou cinq. Cette crise a également affecté d'autres secteurs de l'informatique, tels que les smartphones, les PC et les consoles de jeux.

La solution de Google : TurboQuant
TurboQuant est un algorithme de compression qui permet de réduire la taille du cache clé-valeur des IA. Ce cache est l'espace de travail immédiat de l'IA, où elle stocke les informations importantes issues des étapes précédentes. En compressant ce cache, TurboQuant permet de réduire la quantité de mémoire nécessaire pour fonctionner. Les performances de TurboQuant sont très prometteuses, avec une réduction de la taille du cache clé-valeur d'un facteur six au minimum, sans perte de précision pour l'IA.

La méthode PolarQuant
La méthode PolarQuant est une approche radicalement différente pour optimiser la place occupée par les données. Au lieu d'examiner un vecteur en mémoire à l'aide de coordonnées standards (c'est-à-dire X, Y, Z), PolarQuant convertit ce vecteur en coordonnées polaires. Cela permet de réduire la quantité de mémoire nécessaire pour stocker les données. PolarQuant élimine également le surcoût de mémoire imposé par les méthodes traditionnelles, ce qui permet à TurboQuant de ramener la taille du cache clé-valeur à seulement 3 bits.

Les conséquences économiques
Si les promesses de Google Research se concrétisent à grande échelle, les conséquences économiques pourraient être considérables. La réduction de la demande de RAM pourrait faire chuter les prix, ce qui serait bénéfique pour les consommateurs. Cependant, cela pourrait également avoir des conséquences négatives pour les fabricants de mémoire. La réduction de la demande de RAM pourrait également déplacer le goulot d'étranglement vers la puissance de calcul, ce qui pourrait nécessiter des processeurs plus puissants pour fonctionner.

En conclusion, la crise de la mémoire vive est un problème complexe qui nécessite des solutions innovantes. L'algorithme TurboQuant de Google est une étape importante dans la résolution de ce problème. En réduisant la quantité de mémoire nécessaire pour fonctionner, TurboQuant pourrait faire chuter les prix de la RAM et déplacer le goulet d'étranglement vers la puissance de calcul. Pour en savoir plus sur les systèmes de gestion de mémoire et les algorithmes de compression, vous pouvez consulter les liens suivants : Google Research, Hugging Face.

---

Source : numerama.com - Le coup de génie de Google, qui a trouvé un moyen de régler la crise de la mémoire vive (RAM) pour de bon​