Google a intégré l'intelligence artificielle dans son moteur de recherche avec les AI Overviews, alimentées par Gemini, qui apparaissent en haut des résultats. Ces résumés générés par IA visent à fournir des réponses rapides et concises aux requêtes des utilisateurs. Cependant, le lancement de cette fonctionnalité en 2024 a été marqué par des critiques concernant la précision des informations fournies.

Si les AI Overviews se sont améliorées depuis leur lancement, atteignant une exactitude acceptable dans la plupart des cas, une nouvelle analyse du *New York Times* met en lumière une réalité préoccupante. L'étude, menée en collaboration avec Oumi, une startup spécialisée dans le développement de modèles d'IA, a cherché à évaluer objectivement la fiabilité des AI Overviews. Les résultats indiquent que, bien que les réponses soient correctes dans 90 % des cas, 10 % des informations fournies sont erronées. Pour une plateforme de la taille de Google, cela se traduit par la diffusion de centaines de milliers d'inexactitudes chaque minute.

Oumi a utilisé des outils d'IA pour sonder les AI Overviews en utilisant le test SimpleQA, une méthode d'évaluation couramment utilisée pour évaluer la véracité des modèles génératifs tels que Gemini. SimpleQA, développé par OpenAI en 2024, est une base de données contenant plus de 4 000 questions avec des réponses vérifiées. Ce test permet de mesurer la capacité d'un modèle d'IA à fournir des informations factuelles et précises.

Les implications de cette étude sont significatives. Bien que l'intégration de l'IA dans la recherche puisse améliorer l'expérience utilisateur en fournissant des réponses rapides et synthétiques, il est crucial de garantir la fiabilité des informations présentées. Un taux d'erreur de 10 % peut sembler faible, mais à l'échelle de Google, cela représente un volume considérable d'informations potentiellement trompeuses diffusées auprès d'un public mondial.

Cette analyse souligne la nécessité pour Google de continuer à améliorer la précision et la fiabilité de ses AI Overviews. Il est impératif de mettre en place des mécanismes de contrôle plus rigoureux et d'affiner les algorithmes pour minimiser la propagation d'informations erronées. Les utilisateurs doivent également rester vigilants et exercer leur esprit critique face aux réponses fournies par l'IA, en vérifiant les informations auprès de sources fiables.

L'avenir de l'IA dans la recherche dépend de la capacité à concilier la rapidité et la commodité avec la précision et la fiabilité. Google a encore du travail à faire pour garantir que ses AI Overviews soient une source d'information fiable et digne de confiance.