Meta remplace les humains par l'IA

Mais aussi : les agents IA battent les humains en piratage, l'IA auto-codée apprend grâce à Darwin et plus encore.

Author

VISION IA
2 juin

Aujourd'hui:

Meta laissera l'intelligence artificielle , et non les employés, approuver jusqu'à 90 % des modifications apportées à Facebook, Instagram et WhatsApp. Le nouveau système prend des décisions instantanées après que les ingénieurs ont rempli un questionnaire. D'anciens employés avertissent que ce changement de vitesse au détriment de la sécurité réduit le nombre d'humains chargés de vérifier les menaces liées à la confidentialité, à la sécurité des enfants et à la désinformation. Meta affirme que les humains continuent de gérer les cas inhabituels ou à haut risque et d'auditer les résultats, mais les critiques craignent que les dommages ne se manifestent qu'une fois que les fonctionnalités auront atteint des milliards.

Pourquoi c'est important

  1. Précédent dans l’industrie – Il crée un précédent (un exemple que d’autres pourraient copier) pour remplacer la surveillance humaine par l’IA dans les examens de confidentialité et de sécurité.

  2. Biais et angles morts – Les algorithmes peuvent comporter des biais (tendances injustes intégrées) ou passer à côté de problèmes qu’ils n’ont jamais été formés à voir, exposant ainsi les utilisateurs à des risques cachés.

  3. Échelle massive – Les applications de Meta servent des milliards de personnes, de sorte que toute mauvaise décision d'IA peut causer des dommages à l'échelle mondiale en quelques minutes, soulignant les enjeux de la gouvernance automatisée.

ElevenLabs a lancé Conversational AI 2.0 , une boîte à outils améliorée pour la création d'assistants vocaux. De nouvelles fonctionnalités intelligentes de « prise de parole » permettent au robot de détecter les pauses et d'éviter d'interrompre les utilisateurs. La détection automatique de langues prend en charge les langues mixtes. Un outil intégré de récupération de connaissances extrait instantanément les informations des fichiers de l'entreprise, tout en limitant les délais. Les agents peuvent changer de voix, envoyer des appels groupés et travailler par voix ou par SMS. La plateforme respecte les règles de confidentialité des données de santé et propose des tarifs dégressifs pour les entreprises.

Pourquoi c'est important

  1. Un discours plus proche de l’humain – Un meilleur timing de pause et de réponse réduit l’écart entre les voix des machines et les conversations réelles.

  2. Des assistants plus sûrs et utiles – La recherche instantanée de faits (récupération) et le respect strict de la confidentialité montrent que l’IA peut aider dans des domaines sensibles comme les soins de santé sans risquer de fuites de données.

  3. Course à l'innovation rapide – La mise à niveau rapide d'ElevenLabs, quelques jours après la sortie d'un concurrent, met en évidence une concurrence féroce qui entraîne des progrès plus rapides et des coûts plus faibles dans l'IA vocale.

Des équipes d'IA autonomes et autodirigées ont participé à deux grands concours de piratage Capture-The-Flag (jeux de sécurité basés sur des énigmes) organisés par Palisade Research. Lors du premier, quatre agents d'IA sur sept ont résolu 19 énigmes sur 20, se classant parmi les 5 % les plus performants. Lors du second, le meilleur agent a réussi 20 tâches sur 62 contre 18 000 humains, se classant parmi les 10 % les plus performants. Les résultats suggèrent que les tests en laboratoire antérieurs ont sous-estimé les compétences de l'IA en matière de sécurité, car les concours révèlent des points forts cachés par des évaluations restreintes et rigides.

Pourquoi c'est important

  1. Puissance de défense automatisée – L’IA autonome peut détecter et corriger les failles de sécurité ainsi que les personnes formées, ce qui ouvre la voie à de futurs outils de cyberprotection mains libres.

  2. Repenser les tests – Les contrôles habituels en laboratoire passent à côté d’une grande partie de ce que l’IA peut réellement faire. Les chercheurs ont donc besoin d’évaluations plus rigoureuses et plus réalistes avant que les modèles ne dépassent la surveillance.

  3. Accès facile au piratage d'élite – Une IA de premier plan a été créée en seulement 17 heures de réglages rapides, ce qui montre que les compétences de piratage de haut niveau deviennent bon marché et largement disponibles, augmentant à la fois le potentiel et les risques.

🧠 RECHERCHE

Table-R1 est un modèle de raisonnement par tableaux qui offre des performances comparables à celles de GPT-4.1 en utilisant beaucoup moins de ressources. Il utilise deux techniques : l'apprentissage à partir de modèles plus performants et l'entraînement basé sur la récompense pour raisonner sur des tableaux de données. Ce modèle gère efficacement les questions-réponses et la vérification des faits, même sur des données peu connues, démontrant ainsi sa capacité à généraliser efficacement avec seulement 7 milliards de paramètres.

Spatial-MLLM est un nouveau modèle d'IA qui optimise le raisonnement spatial en utilisant uniquement des images ou des vidéos 2D. Il combine deux types d'encodeurs visuels – l'un pour l'apparence, l'autre pour la structure – pour mieux comprendre l'espace. Il sélectionne également intelligemment les images vidéo sur lesquelles se concentrer. Il surpasse les modèles existants pour les tâches spatiales réelles.

Cette étude montre que les grands modèles linguistiques peuvent apprendre à bien raisonner même avec des retours parasites ou erronés. Au lieu de récompenser uniquement les bonnes réponses, les chercheurs ont récompensé l'utilisation d'étapes de raisonnement. Étonnamment, cette méthode a fonctionné presque aussi bien, prouvant que guider le processus est plus important que vérifier la réponse finale.

📲 RÉSEAUX SOCIAUX

🗞️PLUS D'ACTUALITÉS

  • La machine Darwin Gödel est une IA de codage qui réécrit son propre code pour s'améliorer au fil du temps. Inspirée par l'évolution, elle teste chaque modification et conserve les meilleures, affichant des gains majeurs dans les tâches de codage.

  • Samsung finalise un accord avec Perplexity AI pour intégrer ses outils de recherche aux futurs appareils. Ce partenariat permettra d'améliorer Bixby, de précharger l'application Perplexity et d'intégrer ses fonctionnalités d'IA au navigateur web de Samsung .

  • QwenLong-L1 d'Alibaba aide les modèles d'IA à comprendre des textes très longs, comme des documents juridiques ou financiers. Grâce à un processus d'apprentissage par renforcement en plusieurs étapes, il surpasse les modèles les plus performants en raisonnant mieux, en retraçant les erreurs et en décomposant les problèmes complexes. 

  • Google a discrètement lancé l'application AI Edge Gallery, permettant aux utilisateurs d'exécuter des modèles d'IA issus de Hugging Face directement sur leur téléphone, sans connexion Internet. Elle prend en charge des tâches telles que la génération d'images et l'édition de code, toutes traitées localement.

  • Anthropic a ajouté un mode vocal à son application Claude, permettant aux utilisateurs de parler à l'IA en utilisant l'une des cinq voix prédéfinies. Cette fonctionnalité utilise la technologie vocale d'ElevenLabs, et non un modèle interne, et permet une utilisation mains libres.

  • Chris Young, ancien responsable des transactions chez Microsoft, prévoit de créer un fonds de capital-investissement pour racheter des entreprises de services et utiliser l'IA pour optimiser leur efficacité. Il s'inscrit dans une tendance croissante des investisseurs à combiner l'IA avec des stratégies d'acquisition par regroupement. 

  • OpenAI prévoit de transformer ChatGPT en un « super assistant » qui comprend profondément les utilisateurs et gère les tâches quotidiennes, de l'envoi d'e-mails à la planification de voyages, en utilisant l'IA, la saisie multimodale et éventuellement du matériel futur pour une interaction transparente.

🎬DERNIÈRES VIDÉOS