Faut-il mentionner l'usage de l'IA dans ses conditions d'utilisation ?

Introduction

Deux questions sont fréquemment confondues : la transparence sur les fonctions du produit et la transparence sur la méthode de son développement. Leurs régimes diffèrent entièrement.

La méthode de développement

Aucune obligation légale n’impose d’indiquer aux utilisateurs qu’un logiciel a été développé avec l’assistance d’outils génératifs.

Les obligations de transparence du règlement européen sur l’intelligence artificielle visent les systèmes intégrés au produit et leurs effets sur les utilisateurs, non la manière dont le logiciel a été écrit.

Une mention dans les conditions d’utilisation n’est donc pas requise.

Elle n’est pas non plus souhaitable : elle informerait sans utilité et pourrait suggérer une incertitude sur la qualité du produit.

Les fonctions du produit

Le régime est différent.

Les personnes interagissant avec un système d’intelligence artificielle doivent en être informées, lorsque cela n’est pas évident au regard des circonstances.

Les contenus générés ou manipulés doivent être identifiés comme tels, selon les modalités prévues.

Ces obligations concernent les fonctions livrées aux utilisateurs : assistant conversationnel, génération de contenus, recommandation, analyse.

Elles se traduisent dans l’interface, à l’endroit où la fonction est utilisée, et non seulement dans les conditions d’utilisation.

Les décisions automatisées

Lorsque le produit fonde une décision produisant des effets juridiques ou affectant de manière significative, l’interdiction de principe des décisions exclusivement automatisées s’applique.

L’information de la personne est due, avec des éléments utiles sur la logique sous-jacente ainsi que l’importance et les conséquences prévues.

Cette information relève du régime de la protection des données et se cumule avec les obligations du règlement sur l’intelligence artificielle.

Ce que demandent les clients professionnels

Leurs demandes portent sur le contrat, non sur les conditions d’utilisation.

Une déclaration sur le recours à des outils dans le développement.

Une garantie sur la titularité des livrables et l’absence d’atteinte aux droits de tiers.

Un engagement de revue humaine du code.

Un engagement de ne pas soumettre leur code ou leurs données à un outil externe, ou une autorisation encadrée.

L’information sur les fonctions d’intelligence artificielle du produit, les modèles utilisés et leurs fournisseurs.

L’encadrement de l’usage de leurs données pour l’entraînement.

Ces demandes se standardisent et méritent d’être anticipées dans le contrat type.

L’usage des données des clients

C’est le point le plus sensible.

Utiliser les données des clients pour entraîner ou améliorer des modèles constitue un traitement pour une finalité propre à l’éditeur.

Il excède l’instruction du responsable de traitement et suppose une base légale distincte, une information et, selon le contexte, l’accord du client.

Une clause générale autorisant l’usage des données à des fins d’amélioration du service est insuffisante lorsque l’usage consiste à entraîner un modèle exploité au bénéfice de tous.

La pratique attendue prévoit une option, désactivée par défaut pour les offres professionnelles, avec une information explicite.

Les sous-traitants ultérieurs

Lorsque le produit appelle un modèle tiers, son fournisseur est un sous-traitant ultérieur.

Il doit figurer dans la liste communiquée aux clients, avec sa localisation et l’encadrement des transferts.

Cette déclaration est fréquemment omise et relevée lors des audits clients.

La rédaction adaptée

Dans les conditions d’utilisation : décrire les fonctions d’intelligence artificielle du produit, leur objet, leurs limites et le traitement des données qu’elles impliquent.

Dans l’interface : signaler l’interaction et identifier les contenus générés, à l’endroit où la fonction est utilisée.

Dans le contrat professionnel : déclarer la méthode de développement, garantir la titularité dans la mesure où elle existe, s’engager sur la revue humaine et encadrer l’usage des données.

Dans la documentation de conformité : une fiche par système, avec sa qualification et les mesures associées.

Ce qu’il ne faut pas faire

Mentionner l’usage d’outils de développement dans les conditions destinées aux utilisateurs finaux, sans utilité.

Omettre de signaler les fonctions d’intelligence artificielle du produit, ce qui constitue un manquement.

Prévoir une clause générale autorisant l’usage des données pour l’entraînement, qui sera refusée par les clients structurés.

Omettre de déclarer les fournisseurs de modèles comme sous-traitants ultérieurs.

Distinguer le produit de la méthode

L’obligation porte sur ce que le produit fait, non sur la manière dont il a été écrit. Notre expertise en intelligence artificielle rédige ces documents.

En résumé

• Aucune obligation n’impose de mentionner la méthode de développement aux utilisateurs.
• Les obligations de transparence visent les fonctions d’intelligence artificielle du produit.
• Le signalement se fait dans l’interface, pas seulement dans les conditions d’utilisation.
• Les demandes des clients professionnels portent sur le contrat, non sur les conditions.
• Déclarer les fournisseurs de modèles comme sous-traitants ultérieurs.