Google utilise l'intelligence artificielle pour répondre aux questions liées aux problèmes de santé. Certains analystes trouvent cela inquiétant, considérant que la fonctionnalité AI Overview peut fournir des informations peu fiables.
Les médecins affirment que les aperçus de l’IA peuvent être inquiétants, surtout lorsqu’il s’agit de répondre à des questions sur la santé personnelle. Selon un rapport récent du New York Times, cette fonctionnalité peut potentiellement fournir des informations inexactes, mais elle peut également guider les gens vers les soins médicaux nécessaires.
Une erreur de recherche dans les aperçus de l’IA alimente les sentiments d’hallucinations de l’IA
Google a introduit AI Overviews, une fonctionnalité qui génère des résumés de contenu à partir de sites Web et les affiche sur la page de résultats de recherche Google. Quelques jours après son lancement, la fonctionnalité présentait un large éventail d'inexactitudes, car elle basait ses réponses sur des sources incorrectes. Un événement qui alimente encore davantage le sentiment que l’intelligence artificielle est sujette aux hallucinations et peut générer des informations factuellement incorrectes.
Lire aussi : Google limite les aperçus de l'IA pour les requêtes satiriques et absurdes
Les résultats de recherche liés à la santé qui administrent une dose quotidienne de roche ou demandent aux utilisateurs de manger des pizzas collantes ont généré une réaction violente. AI Overviews cite des sources telles que l’Organisation mondiale de la santé, WebMD, PubMed et Mayo Clinic. Cependant, ils ne se limitent pas à ces sources. Les analystes affirment que l'outil extrait des informations de Reddit, Wikipedia, plusieurs blogs et sites de commerce électronique.
Hema Budaraju, directrice principale de la gestion des produits chez Google, a déclaré qu'il existe des obstacles supplémentaires pour les questions liées à la santé, mais elle a refusé de révéler plus de détails. Hema a ajouté que certaines requêtes ne déclenchent pas les aperçus de l'IA, par exemple si le système détecte une situation d'automutilation.
Google a déclaré que AI Overviews s'intègre à Google Knowledge Graph, une base de connaissances contenant des données extraites de différentes sources, mais n'a pas fourni de détails sur les sites Web qui prennent en charge les résultats de la fonction de recherche assistée par l'IA.
Google affiche davantage d'aperçus de l'IA pour les requêtes de santé
Les résultats traditionnels, souvent appelés « dix liens bleus », étaient utiles aux utilisateurs car ils pouvaient faire la distinction entre les sources médicales fiables et les liens payants ou les sites Web moins crédibles. Avec les aperçus IA, le scénario a changé. Désormais, un seul bloc de texte affiche des informations recueillies à partir de plusieurs sources, ce qui, selon les analystes, prête à confusion.
Kate Knibbs de Wired a déclaré dans un podcast :
"Si vous tapez quelque chose dans l'asthme ou si je suis diabétique ou si vous recherchez quelque chose en rapport avec la maladie, il est très probable que vous voyiez encore aujourd'hui un aperçu de l'IA. Je veux dire, ce n'est pas tout le monde ; c'est toujours environ 63 %. Et je pense que ça dépend."
Certains médecins, comme le Dr Dariush Mozaffarian , affirment que les aperçus de l'IA montrent certains faits corrects et les résument en réponses, mais ne font pas de différence entre les preuves issues des études observationnelles et des essais randomisés.
Une autre couche de désinformation est ajoutée lorsque la fonctionnalité confond les informations. Par exemple, « le thé vert contient des antioxydants et aide à prévenir le cancer ». Même si la première hypothèse est vraie, la seconde n’a pas été cliniquement prouvée. Lorsque ces affirmations sont répertoriées ensemble, elles donnent la fausse impression qu’elles sont crédibles.
Google a des aperçus limités de l'IA
Les personnes observant la mise en œuvre de l’IA recommandent la prudence lorsqu’elles abordent les résultats de recherches sur l’IA liées à la santé. Ils disent que les utilisateurs devraient tenir compte des petits caractères sous certaines réponses indiquant : "Ceci est uniquement à des fins d'information". Le rapport du NYTimes note que l'IA générative est au stade expérimental et que les utilisateurs devraient consulter des médecins en cas de problème grave.
Lire aussi : Les mises à jour des algorithmes de base de Google et les aperçus de l'IA réduisent le trafic des éditeurs
Dans un communiqué du 30 mai, Google a déclaré avoir réduit son utilisation des aperçus de l'IA dans certaines catégories. Les données d'une société de référencement, Brightedge, confirment la position de Google, suggérant que la réduction avait commencé avant même l'annonce de la société.
D'autres rapports affirment également que Google a commencé à annuler les aperçus de l'IA pour certaines catégories avant même que les internautes ne commencent à s'en moquer pour des réponses absurdes. Cependant, il semblerait que la catégorie Santé continue d’afficher un nombre élevé d’aperçus d’IA. Knibbs dit :
"J'ai parlé à d'autres chercheurs en référencement qui avaient découvert que le secteur de la santé produisait encore de nombreux aperçus de l'IA."
Knibbs dit avoir testé quelques requêtes liées à la santé et trouvé des résultats différents quelques heures après avoir essayé, ce qui montre que Google s'efforce d'améliorer les résultats. Elle a dit : « OK, ils essaient. Je ne sais pas s’ils font un assez bon travail, mais ils essaient vraiment.
Reportage cryptopolitain d'Aamir Sheikh