Hallucinations d'IA : qui est responsable ?

Introduction

Lorsqu’une intelligence artificielle générative affirme, sans fondement, qu’une entreprise se livre à des pratiques frauduleuses, qui doit en répondre ? Une décision allemande récente apporte des éléments de réponse, aux implications potentiellement larges pour tous les déployeurs de systèmes génératifs.

Les faits à l’origine du litige

Un moteur de recherche avait déployé une fonctionnalité générant automatiquement des résumés en réponse aux recherches des internautes. Lorsque ceux-ci recherchaient certaines entreprises associées aux termes “arnaque” ou “escroquerie”, le système produisait des affirmations erronées les associant à des pratiques frauduleuses, sans fondement factuel réel.

La responsabilité retenue par le tribunal

Le tribunal de Munich a jugé, en mai 2026, l’exploitant du moteur de recherche responsable des contenus ainsi générés, rejetant l’argument selon lequel il ne serait qu’un simple intermédiaire technique. Les juges ont relevé que l’entreprise avait intégré volontairement cette fonctionnalité, qu’elle paramétrait les algorithmes de sélection et de hiérarchisation des résultats, et qu’elle présentait ces résultats comme partie intégrante de son service, ces résumés générés formulant des déclarations indépendantes et nouvelles, ne figurant pas nécessairement dans les sources d’origine.

Les fondements juridiques mobilisables

Une atteinte illicite à la réputation peut justifier une action en cessation, indépendamment même de la démonstration d’une faute subjective. Le tribunal a par ailleurs retenu une faute implicite : l’entreprise avait été alertée à plusieurs reprises sur ces erreurs, sans procéder à aucune vérification effective du contenu litigieux malgré ces signalements.

Les difficultés structurelles de mise en cause

Au-delà de ce cas particulier, la mise en cause des hallucinations d’IA reste généralement complexe. Les contenus résultent de contributions multiples, fournisseur du modèle, déployeur, prestataires intermédiaires, la qualité des réponses dépendant directement des sources de données utilisées. Le système produit des résultats par nature probabilistes, intrinsèquement susceptibles d’erreurs, et son fonctionnement en boîte noire complique l’imputation précise des responsabilités entre les différents acteurs impliqués.

Anticiper ce risque en tant que déployeur d’IA générative

Toute entreprise intégrant une fonctionnalité générative à son service, moteur de recherche, assistant virtuel ou outil de contenu, gagne à documenter sa vigilance et à réagir promptement aux signalements reçus. Notre pratique en intelligence artificielle accompagne cette anticipation.

En résumé

• Un déployeur de fonctionnalité générative ne peut invoquer un simple rôle d’intermédiaire technique.
• L’atteinte à la réputation peut justifier une action en cessation, sans preuve de faute subjective.
• L’absence de réaction à des signalements répétés a caractérisé une faute implicite dans cette affaire.
• La nature probabiliste et la structure en boîte noire des systèmes compliquent l’imputation générale des responsabilités.