CKFORUM

Titre source : Fuite géante chez Anthropic : pourquoi le futur Claude inquiète déjà ses créateurs
LE FUTUR DE L'INTELLIGENCE ARTIFICIELLE : UNE NOUVELLE ÈRE DE RISQUES

La start-up Anthropic a récemment commis une erreur en mettant en ligne des documents internes sensibles, révélant ainsi l'existence d'un nouveau modèle d'intelligence artificielle (IA) appelé Claude Mythos. Ce modèle, considéré comme le plus puissant jamais développé par Anthropic, suscite déjà des inquiétudes chez ses créateurs en raison de ses capacités avancées en matière de cybersécurité.

Introduction à Claude Mythos
Claude Mythos est un modèle d'IA qui a été développé par Anthropic pour surpasser les capacités de son prédécesseur, Claude Opus 4.6. Selon les documents divulgués, Mythos est capable de débusquer des vulnérabilités et de proposer des méthodes d'exploitation, ce qui en fait un outil puissant pour les hackers. Anthropic a confirmé avoir entraîné et commencé à tester ce nouveau modèle, mais il n'est pas encore prêt pour un lancement grand public en raison de ses risques potentiels pour la cybersécurité.

Risques de cybersécurité
Les documents internes d'Anthropic révèlent que le modèle Mythos pose des "risques de cybersécurité significatifs" en raison de ses capacités avancées. Selon Anthropic, le modèle est capable d'exploiter des vulnérabilités de manière à dépasser les efforts des défenseurs. Cela signifie que si le modèle tombe entre les mains de cybercriminels, il pourrait être utilisé pour lancer des attaques de grande envergure. Pour se préparer à cette éventualité, Anthropic a donné accès à l'IA à des organisations de défense pour les aider à se préparer à une "vague imminente d'exploits pilotés par IA".

Prévention et défense
Pour faire face aux risques posés par le modèle Mythos, il est essentiel de développer des stratégies de défense efficaces. Cela peut inclure l'utilisation de logiciels de sécurité pour protéger les systèmes contre les attaques, ainsi que la mise en place de réseaux privés virtuels (VPN) pour encrypter les données. Il est également important de suivre les actualités de cybersécurité pour rester informé des dernières menaces et des moyens de les prévenir.

Conclusion
Le modèle d'IA Claude Mythos développé par Anthropic représente une nouvelle ère de risques pour la cybersécurité. Il est essentiel de prendre des mesures pour se préparer à ces risques et pour développer des stratégies de défense efficaces. En suivant les actualités de cybersécurité et en utilisant des outils de sécurité tels que les logiciels de sécurité et les réseaux privés virtuels (VPN), nous pouvons nous protéger contre les attaques de grande envergure. Il est également important de sensibiliser les utilisateurs aux risques de cybersécurité et de leur fournir les outils nécessaires pour se défendre contre les attaques.

---

Source : 01net.com - Fuite géante chez Anthropic : pourquoi le futur Claude inquiète déjà ses créateurs​

ANTRHOPIC LIMITE LES ABONNEMENTS POUR EVITER LA SURCHARGE

La société Anthropic a décidé de limiter l'utilisation de son modèle de langage Claude pour faire face à la demande croissante qui met à l'épreuve sa capacité de calcul. Cette décision concerne les abonnements free, Pro et Max, qui verront leurs limites de session réduites pendant les heures de pointe. Selon les analystes, cette stratégie pourrait pousser les utilisateurs et les entreprises à adopter des plans basés sur les API, qui offrent une meilleure prévisibilité et des coûts plus stables.

Limites de session réduites
Les limites de session pour les abonnements free, Pro et Max seront réduites pendant les heures de pointe, qui s'étendent de 5h à 11h du matin (heure du Pacifique) et de 13h à 19h (heure de Greenwich). Cela signifie que les utilisateurs atteindront leurs limites de session plus rapidement pendant ces périodes. Selon Thariq Shihipar, membre du personnel technique d'Anthropic, cette décision vise à prévenir les surcharges du système et à garantir que les utilisateurs puissent continuer à utiliser Claude sans interruption.

Impact sur les utilisateurs
Les analystes estiment que cette décision affectera environ 7% des utilisateurs, principalement les utilisateurs Pro. Les entreprises qui utilisent Claude via des plans d'abonnement seront également touchées, en particulier les équipes de développement et les utilisateurs qui dépendent fortement de la plateforme. Selon Pareekh Jain, analyste principal chez Pareekh Consulting, cette décision pourrait pousser les entreprises à adopter des plans basés sur les API pour éviter les limites de session et garantir une meilleure prévisibilité.

Stratégie pour adopter les plans basés sur les API
Les analystes pensent que cette décision pourrait être une stratégie pour pousser les utilisateurs et les entreprises à adopter des plans basés sur les API, qui offrent une meilleure prévisibilité et des coûts plus stables. Selon Charlie Dai, vice-président et analyste principal chez Forrester, cette stratégie pourrait permettre à Anthropic de générer des revenus plus stables et plus prévisibles. Les plans basés sur les API offrent également une meilleure flexibilité et des coûts plus bas pour les entreprises qui ont des besoins spécifiques.

Conclusion et perspectives
La décision d'Anthropic de limiter les abonnements à Claude pour faire face à la demande croissante pourrait avoir des conséquences importantes pour les utilisateurs et les entreprises. Les analystes pensent que cette décision pourrait pousser les utilisateurs et les entreprises à adopter des plans basés sur les API, qui offrent une meilleure prévisibilité et des coûts plus stables. Pour plus d'informations sur les plans d'abonnement et les options de tarification d'Anthropic, vous pouvez consulter le site web d'Anthropic ou contacter leur équipe de support. Vous pouvez également suivre les dernières actualités et développements dans le domaine de l'intelligence artificielle et du développement de logiciels sur des sites tels que InfoWorld ou Forrester.

---

Source : Kotlin 2.3.20 harmonizes with C, JavaScript/Typescript | InfoWorld - Anthropic throttles Claude subscriptions to meet capacity​

L'INTELLIGENCE ARTIFICIELLE VA-T-ELLE CHANGER NOTRE MONDE ?

L'intelligence artificielle (IA) est en constante évolution et Elon Musk est l'un des personnalités les plus influentes dans ce domaine. Dans une récente interview, il a rappelé une vérité glaçante sur le futur de l'IA, affirmant que le monde sera traumatisé par les changements qui s'en suivront. Les progrès récents en termes d'IA rendent Musk à la fois fébrile et enthousiaste, mais il est important de considérer les implications de ces changements sur notre société.

L'impact de l'IA sur le marché du travail
Selon Musk, les changements ne feront que s'accélérer à mesure que l'IA se perfectionne. Tout ce qui est numérique, c'est-à-dire simplement une personne devant un ordinateur, sera bouleversé par l'IA à une vitesse fulgurante. Cela signifie que de nombreux emplois seront automatisés, ce qui pourrait entraîner des perturbations importantes sur le marché du travail. Cependant, Musk estime que les emplois qui impliquent une manipulation physique, tels que la cuisine ou l'agriculture, existeront bien plus longtemps.

Un scénario catastrophe ou une société d'abondance ?
Musk n'écarte pas un scénario catastrophe, mais il préfère rester optimiste. Il estime que, à terme, travailler deviendra facultatif grâce aux robots et à l'IA. Nous aurons, dans un scénario favorable, un revenu élevé universel, ce qui signifie que chacun pourra accéder aux produits et services qu'il souhaite. Cependant, il reconnaît que les conséquences de ces progrès signifient des gains de productivité si massifs qu'ils dépasseront ce que l'on peut concevoir comme abondance. Pour en savoir plus sur les revenus universels et leur impact sur la société, vous pouvez consulter les ressources du gouvernement.

Les prédictions de Musk sur l'IA
Musk a pris l'habitude de faire des prédictions sur l'IA sans véritablement étayer ses propos. Il a récemment affirmé que l'IA surpassera l'intelligence de tous les humains réunis d'ici 2030. Il y aurait aussi des robots humanoïdes qui seront plus nombreux que les êtres humains. Dès lors, les emplois traditionnels seront remplacés peu à peu. Pour en savoir plus sur les dernières avancées en IA, vous pouvez consulter les publications scientifiques sur le sujet.

Conclusion et perspectives
En conclusion, les prédictions de Musk sur l'IA sont à la fois fascinantes et inquiétantes. Il est important de considérer les implications de ces changements sur notre société et de se préparer aux bouleversements qui s'en suivront. Pour en savoir plus sur les implications de l'IA sur la société, vous pouvez consulter les rapports du gouvernement. Il est également important de se tenir informé sur les dernières avancées en IA et de participer aux débats sur l'IA pour mieux comprendre les enjeux et les conséquences de ces changements. Vous pouvez également consulter les ressources de l'INRIA pour en savoir plus sur les recherches en cours sur l'IA.

---

Source : Intelligence Artificielle - « Le monde sera traumatisé » : Elon Musk rappelle une vérité glaçante sur le futur de l’IA​

LE MARCHÉ NOIR DES DONNÉES VOLÉES

La sécurité des données personnelles est une préoccupation majeure dans l'ère numérique. Malheureusement, les fuites de données sont de plus en plus fréquentes, et les données volées sont souvent vendues sur des marchés noirs. Récemment, un nouveau site web pirate a été découvert, qui se présente comme une plateforme semi-privée pour la vente de données volées.

Introduction au marché noir des données
Ce nouveau site web pirate se présente comme une place de marché pensée pour durer, avec des règles de fonctionnement détaillées, une hiérarchie des comptes et un cycle de vie précis pour les annonces. La plateforme cherche à montrer qu'elle peut offrir à la fois discrétion et stabilité, deux éléments essentiels pour les transactions illicites. Les données françaises, russes, américaines et universitaires sont particulièrement visées, avec 2/3 des annonces proposant des données exfiltrées d'entreprises françaises.

Fonctionnement de la plateforme
La plateforme propose une architecture affichée qui vise à rassurer les vendeurs et les acheteurs sur la réduction des traces techniques et la limitation des informations conservées. Aucun enregistrement d'adresse IP, aucun suivi, aucune analyse, aucun script tiers, et une connexion via Tor sont proposés. Les échanges doivent se poursuivre hors plateforme, via Session ou qTox. La plateforme structure également sa communauté avec des grades, des plafonds de publication, des offres privées et un système de promotion interne.

Données françaises dans une mécanique malveillante
La plateforme organise ses membres par rangs, selon une logique proche des plateformes marchandes classiques et d'autres forums pirates. Les données françaises sont particulièrement visées, avec des références à des entreprises et des établissements universitaires. Les prix des données varient, allant de 10 euros pour une base de données attribuée à l'université Lumière Lyon 2 à 8 000 dollars (environ 7 360 euros) pour des données d'entreprises américaines.

Conclusion et perspectives
La découverte de ce nouveau site web pirate souligne l'importance de la sécurité des données personnelles et la nécessité de prendre des mesures pour protéger les informations sensibles. Les entreprises et les individus doivent être conscients des risques de fuites de données et prendre des mesures pour se protéger, telles que l'utilisation de Navigateurs sécurisés, de VPN et de gestionnaires de mots de passe. Les autorités doivent également prendre des mesures pour lutter contre les marchés noirs des données volées et protéger les citoyens. Pour plus d'informations sur la sécurité des données, vous pouvez consulter des sites tels que ZATAZ ou CNIL.

---

Source : ZATAZ.COM - Une nouvelle boutique dédiée aux fuites de données​

LA REVOLUTION DE LA MEMOIRE VIVE : GOOGLE TROUVE UNE SOLUTION

L'intelligence artificielle (IA) a connu un essor considérable ces dernières années, mais cette croissance a également entraîné une crise de la mémoire vive (RAM). Les IA ont besoin de grandes quantités de mémoire pour fonctionner, ce qui a provoqué une pénurie de RAM et une augmentation des prix. Cependant, Google a peut-être trouvé une solution à ce problème avec son nouvel algorithme TurboQuant.

Le problème de la mémoire vive
Les IA génératives, telles que les chatbots et les systèmes de reconnaissance d'images, ont besoin de grandes quantités de mémoire pour fonctionner. Elles doivent charger leurs paramètres de base, qui pèsent plusieurs dizaines ou centaines de giga-octets, et maintenir un espace de travail actif pour stocker les informations. Cela a provoqué une crise de la mémoire vive, avec des prix qui s'envolent et des multiplications par quatre ou cinq. Cette crise a également affecté d'autres secteurs de l'informatique, tels que les smartphones, les PC et les consoles de jeux.

La solution de Google : TurboQuant
TurboQuant est un algorithme de compression qui permet de réduire la taille du cache clé-valeur des IA. Ce cache est l'espace de travail immédiat de l'IA, où elle stocke les informations importantes issues des étapes précédentes. En compressant ce cache, TurboQuant permet de réduire la quantité de mémoire nécessaire pour fonctionner. Les performances de TurboQuant sont très prometteuses, avec une réduction de la taille du cache clé-valeur d'un facteur six au minimum, sans perte de précision pour l'IA.

La méthode PolarQuant
La méthode PolarQuant est une approche radicalement différente pour optimiser la place occupée par les données. Au lieu d'examiner un vecteur en mémoire à l'aide de coordonnées standards (c'est-à-dire X, Y, Z), PolarQuant convertit ce vecteur en coordonnées polaires. Cela permet de réduire la quantité de mémoire nécessaire pour stocker les données. PolarQuant élimine également le surcoût de mémoire imposé par les méthodes traditionnelles, ce qui permet à TurboQuant de ramener la taille du cache clé-valeur à seulement 3 bits.

Les conséquences économiques
Si les promesses de Google Research se concrétisent à grande échelle, les conséquences économiques pourraient être considérables. La réduction de la demande de RAM pourrait faire chuter les prix, ce qui serait bénéfique pour les consommateurs. Cependant, cela pourrait également avoir des conséquences négatives pour les fabricants de mémoire. La réduction de la demande de RAM pourrait également déplacer le goulot d'étranglement vers la puissance de calcul, ce qui pourrait nécessiter des processeurs plus puissants pour fonctionner.

En conclusion, la crise de la mémoire vive est un problème complexe qui nécessite des solutions innovantes. L'algorithme TurboQuant de Google est une étape importante dans la résolution de ce problème. En réduisant la quantité de mémoire nécessaire pour fonctionner, TurboQuant pourrait faire chuter les prix de la RAM et déplacer le goulet d'étranglement vers la puissance de calcul. Pour en savoir plus sur les systèmes de gestion de mémoire et les algorithmes de compression, vous pouvez consulter les liens suivants : Google Research, Hugging Face.

---

Source : numerama.com - Le coup de génie de Google, qui a trouvé un moyen de régler la crise de la mémoire vive (RAM) pour de bon​