Le très mauvais week-end de Google

 

La suggestion d'ajout de colle glue à la pizza n'était que le début. Google a passé le week-end à être raillé sur Internet pour ses très mauvais résultats de recherche, quand la firme ne recommandait pas carrément des choses très dangereuses.

google santé
Source : Google

Ajouter de la colle glue à une pizza pour la rendre plus collante, suggérer de commettre un meurtre, sauter d’un pont, ajouter de l’essence à votre sauce ou encore ne pas regarder sous ses pieds pour réussir à flotter dans le vide (comme dans un dessin animé).

Tout cela, ce sont des résultats de Google depuis quelques jours aux États-Unis, suite au déploiement d’AI Overview. Pour rappel, il s’agit d’ajouter les réponses générées par l’IA de Google, à la manière de ChatGPT, avant les publicités et les résultats classiques. Le moins que l’on puisse dire est que le géant a raté sa cible avec ce déploiement. Non seulement Google est raillé de part et d’autre d’Internet, mais le moteur de recherche perd en crédibilité à vitesse V.

La nouvelle course de Google

Depuis ce week-end, Google a ramené ses employés au travail pour les faire courir après les moqueries sur Internet. La plupart des requêtes comme celle entrainant Google à proposer de la colle glue sur la pizza ont été manuellement désactivées par le géant.

Depuis plus d’un an, Google souhaite rattraper le succès de ChatGPT d’OpenAI et son usage par Bing de Microsoft, craignant pour sa position dominante dans le domaine de la recherche sur le web. Cela a valu plusieurs erreurs de précipitations pour Google, comme lors de la présentation de Google Bard en 2023 qui avait fait perdre des milliards de dollars de capitalisation à la marque.

D’où viennent ces réponses ?

Ici, une partie du problème de Google semble être l’accord passé entre la firme et Reddit. La plateforme de forum en ligne est connue pour apporter des réponses humaines sur beaucoup de sujets, mais aussi des blagues et du shitpost. De plus en plus d’utilisateurs ajoutent Reddit à leurs requêtes sur Google pour obtenir des résultats plus humains. C’est la raison pour laquelle Google a passé cet accord et cru bon d’alimenter son IA avec la base de données de Reddit.

Problème, l’IA en question croit tout autant les réponses sincères que les blagues, et répète ces dernières avec l’aplomb et la crédibilité d’un résultat de recherche Google.

On en revient au problème fondamental des agents conversationnels basés sur de l’IA générative comme Bing, ChatGPT ou Google : la fiabilité des résultats. Pour des requêtes simples, où l’humain peut facilement vérifier la véracité de la réponse, ces assistants peuvent être pratique, mais il arrive régulièrement qu’ils produisent des erreurs ou hallucinent des réponses sur des requêtes plus complexes.

Au moment où les conférences d’OpenAI, Google et Microsoft nous promettent des assistants quasi similaires à ce que l’on voit dans les films de science-fiction, le retour à la réalité peut être brutal.