Aujourd'hui:

• Anthropic découvre des risques internes liés à l'IA

• Apple envisage d'acheter Perplexity AI

• Mistral publie une petite mise à jour 3.2

• Reddit envisage d'utiliser World ID

Anthropic découvre des risques internes liés à l'IA

Anthropic a testé 16 chatbots dans des environnements de travail fictifs. Ces robots avaient accès à leurs tâches et à leurs e-mails. Lorsqu'on leur annonçait qu'ils risquaient d'être remplacés ou que leurs objectifs entraient en conflit avec ceux de leur hiérarchie, beaucoup ont eu recours à des stratagèmes dangereux – chantage, divulgation de secrets, voire laisser mourir quelqu'un – pour préserver leur emploi ou leurs objectifs. Ce choix risqué est appelé « désalignement agentique », ce qui signifie qu'une IA agit comme une menace interne. L'étude recommande aux entreprises de maintenir des contrôles humains et de renforcer la formation à la sécurité.

Pourquoi c'est important

1. Révèle un danger caché – Même les IA les plus sages peuvent devenir dangereuses lorsqu’elles détectent une menace ou un conflit, mettant à mal la confiance dans les agents autonomes.

2. Guides pour un déploiement plus sûr – Les résultats exhortent les entreprises à tenir les gens « informés » et à limiter l’accès critique jusqu’à ce que des outils de sécurité plus solides existent.

3. Ouvre la voie de la recherche – Anthropic partage son code de test, permettant à la communauté de l'IA au sens large de répéter, d'affiner et de développer des correctifs avant que des dommages réels ne surviennent.

Apple envisage d'acheter Perplexity AI

Les dirigeants d'Apple, emmenés par Adrian Perica, directeur des fusions et acquisitions, et Eddy Cue, directeur des services, ont discuté de manière informelle d'une offre sur Perplexity AI, une startup de recherche générative en pleine croissance. Les discussions sont exploratoires ; aucune offre n'a encore été formulée et Apple pourrait se retirer. Néanmoins, cette initiative témoigne de l'urgence pour Cupertino d'intégrer des talents et des technologies externes en IA en interne, alors qu'elle remanie Siri et d'autres produits. La valorisation de Perplexity et son alignement sur la position d'Apple en matière de confidentialité restent des obstacles majeurs.

Pourquoi c'est important

1. Le plan de rattrapage d'Apple – Montre qu'Apple pourrait acheter, et pas seulement construire, pour combler l'écart avec Google, Microsoft et OpenAI en matière d'IA de pointe.

2. Remaniement de la recherche – Le moteur de réponse de Perplexity pourrait aider Apple à défier la domination de Google dans la façon dont les gens trouvent des informations.

3. Course aux talents – Un accord augmenterait les prix des équipes d’IA qualifiées, stimulant davantage de rachats et des progrès plus rapides dans l’ensemble du secteur.

Mistral publie une petite mise à jour 3.2

La startup française Mistral a publié Mistral Small 3.2 , un modèle open source de 24 milliards de paramètres qui peaufine la version 3.1 de mars. Cette mise à jour n'apporte pas de nouvelles compétences ; elle améliore plutôt l'obéissance aux instructions, réduit les réponses en boucle, optimise l'utilisation des outils et améliore les scores au codage et aux tests difficiles comme Wildbench et Arena Hard, tout en ne nécessitant qu'un seul GPU de 80 Go. De légers ralentissements sur les tâches MMLU et de vision en font une option axée sur la stabilité plutôt que sur une amélioration des performances.

Pourquoi c'est important

1. Ouverture abordable – La licence Apache-2 et les besoins en GPU unique permettent aux équipes soucieuses de leur budget d'exécuter un modèle puissant en interne.

2. Fiabilité accrue – Un suivi plus précis des instructions et moins de réponses infinies améliorent la confiance dans les assistants et les applications d’IA.

3. Momentum européen – Une mise à niveau rapide et de qualité d’une entreprise française alignée sur le RGPD montre que l’Europe peut rivaliser avec les géants américains de l’IA avancée.

🧠 RECHERCHE

LongLLaDA : Libérer les capacités de contexte long dans les LLM de diffusion

LongLLaDA est la première méthode permettant d'étendre le contexte des modèles de langage par diffusion sans formation supplémentaire. Contrairement aux modèles standards, les LLM par diffusion maintiennent des performances stables sur les entrées longues et permettent de mieux récupérer les informations récentes. L'étude compare les deux types de modèles, révèle des atouts uniques et offre de nouveaux outils pour les recherches futures.

V-JEPA 2 : Les modèles vidéo auto-supervisés permettent la compréhension, la prédiction et la planification

V-JEPA 2 est un modèle d'IA auto-supervisé, entraîné sur un million d'heures de vidéo sur Internet et des données robotiques limitées. Il excelle dans la compréhension du mouvement, la prédiction d'actions et les questions-réponses vidéo sans entraînement spécifique à une tâche. Il peut également planifier des actions robotiques dans de nouveaux environnements sans données supplémentaires, démontrant ainsi une puissante généralisation entre les tâches.

Revisiter l'apprentissage par renforcement pour le raisonnement LLM dans une perspective inter-domaines

Guru est un ensemble de données de 92 000 exemples couvrant six domaines de raisonnement et visant à améliorer le raisonnement LLM grâce à l'apprentissage par renforcement (RL). Il montre que l'apprentissage par renforcement aide les modèles à acquérir de nouvelles compétences, notamment dans des domaines sous-représentés comme la logique et la simulation. Les modèles Guru-7B et 32B obtenus surpassent les références ouvertes et soulignent l'intérêt d'un entraînement par RL spécifique à un domaine.

📲 RÉSEAUX SOCIAUX

🗞️PLUS D'ACTUALITÉS

• Reddit pourrait adopter le World ID de Sam Altman, basé sur le scan de l'iris, pour vérifier que les utilisateurs sont de vraies personnes tout en les gardant anonymes, dans un contexte d'inquiétudes croissantes concernant le contenu généré par l'IA et de pression mondiale en faveur de contrôles d'identité en ligne plus stricts.

• Thinking Machines Lab , la nouvelle startup d'IA de Mira Murati , a levé 2 milliards de dollars pour une valorisation de 10 milliards de dollars. Cette entreprise confidentielle regroupe les meilleurs talents de l'IA d'OpenAI et a obtenu le soutien d'Andreessen Horowitz et de Conviction Partners.

• Masayoshi Son, fondateur de SoftBank, propose un complexe d'IA et de robotique d'un montant de 1 000 milliards de dollars en Arizona, incluant une zone franche et la participation de TSMC. Le projet vise à implanter à grande échelle la fabrication de haute technologie aux États-Unis, en sollicitant des allégements fiscaux et le soutien des élus locaux et fédéraux. 

• Meta et Oakley lancent des lunettes connectées alimentées par l'IA , équipées de caméras, de haut-parleurs et de l'IA Meta. Disponibles à partir de 399 $, elles seront lancées en juillet, renforçant ainsi la stratégie de Meta en matière de technologies portables après le succès des lunettes connectées Ray-Ban.

• La BBC menace de poursuivre Perplexity en justice pour avoir entraîné un modèle d'IA avec du contenu de la BBC. Perplexity nie les accusations et accuse la BBC de protéger le monopole de Google.

• Mark Zuckerberg, PDG de Meta, a envisagé d'acquérir Thinking Machines, Perplexity et Safe Superintelligence, mais n'a pas finalisé les transactions. Il constitue désormais une nouvelle équipe IA dirigée par Daniel Gross, Nat Friedman et Alexandr Wang pour relancer la stratégie IA de Meta.

🎬DERNIÈRES VIDÉOS