L'employeur peut-il consulter les emails et fichiers d'un salarié ?
Mathilde Levasseur
Associée
Peut-on prendre une décision automatisée sur la base d'un algorithme ?
Le principe est l'interdiction lorsque la décision produit des effets juridiques. Les trois exceptions et les garanties exigées.
Le principe est l'interdiction lorsque la décision produit des effets juridiques. Les trois exceptions et les garanties exigées.
Introduction
L’usage d’algorithmes et de systèmes d’intelligence artificielle dans les décisions commerciales, de recrutement ou de crédit rencontre une règle antérieure à ces technologies et toujours applicable.
Le principe
La personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de manière significative de façon similaire.
Formulée comme un droit, la règle fonctionne en pratique comme une interdiction de principe : le responsable ne peut recourir à ce type de décision qu’en se plaçant dans l’une des exceptions.
Le champ
Deux conditions doivent être réunies.
La décision est fondée exclusivement sur un traitement automatisé, sans intervention humaine réelle.
Elle produit des effets juridiques ou affecte de manière significative de façon similaire : refus de crédit, rejet d’une candidature, résiliation, exclusion d’un service, tarification fortement différenciée.
Une recommandation de produit ou un classement de résultats n’atteint généralement pas ce seuil. Un refus automatisé d’ouverture de compte l’atteint.
L’intervention humaine
C’est le point de qualification décisif.
L’intervention doit être réelle : la personne qui décide doit disposer de l’information nécessaire, de la compétence pour l’apprécier et du pouvoir effectif de modifier le résultat.
Une validation formelle, où un opérateur confirme systématiquement la sortie de l’algorithme sans pouvoir ni temps de l’examiner, ne fait pas sortir du champ.
Documenter le processus de décision, et notamment la marge réelle de l’intervenant humain, constitue donc un élément de preuve essentiel.
Les trois exceptions
La décision est nécessaire à la conclusion ou à l’exécution d’un contrat entre la personne et le responsable.
Elle est autorisée par le droit de l’Union ou de l’État membre auquel le responsable est soumis, ce droit prévoyant des mesures appropriées de sauvegarde.
Elle est fondée sur le consentement explicite de la personne.
Dans les cas du contrat et du consentement, le responsable met en œuvre des mesures appropriées pour la sauvegarde des droits, libertés et intérêts légitimes de la personne.
Les garanties minimales
Au moins le droit d’obtenir une intervention humaine de la part du responsable, le droit d’exprimer son point de vue et le droit de contester la décision.
Ces garanties doivent être opérationnelles : une adresse de contact dédiée, un délai de réponse, une personne identifiée capable de réexaminer.
Les données sensibles
Les décisions automatisées ne peuvent en principe être fondées sur des catégories particulières de données, sauf consentement explicite ou motif d’intérêt public important, et sous réserve de mesures appropriées.
L’information due
La personne doit être informée de l’existence d’une décision automatisée, et recevoir des informations utiles concernant la logique sous-jacente, ainsi que l’importance et les conséquences prévues du traitement.
Cette information n’impose pas de divulguer le code ou le modèle, mais d’expliquer les critères déterminants et leur pondération générale.
L’articulation avec la réglementation sur l’intelligence artificielle
Le règlement européen sur l’intelligence artificielle ajoute ses propres obligations pour certains systèmes, notamment en matière de recrutement et d’accès aux services essentiels.
Les deux cadres se cumulent : la conformité à l’un ne dispense pas de l’autre.
Encadrer avant de déployer
Un système déployé sans qualification préalable est difficile à régulariser. Notre expertise en intelligence artificielle traite ces sujets.
En résumé
- Interdiction de principe des décisions exclusivement automatisées produisant des effets juridiques ou significatifs.
- L’intervention humaine doit être réelle, avec information, compétence et pouvoir de modifier.
- Trois exceptions : contrat, autorisation légale, consentement explicite.
- Garanties minimales : intervention humaine, expression du point de vue, contestation.
- Le règlement sur l’intelligence artificielle ajoute ses propres obligations.
Questions fréquentes
Toute décision algorithmique est-elle interdite ?
Non. L'interdiction vise la décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques à l'égard de la personne ou l'affectant de manière significative de façon similaire.
Quelles sont les exceptions ?
La décision nécessaire à la conclusion ou à l'exécution d'un contrat, celle autorisée par le droit de l'Union ou de l'État membre avec des garanties appropriées, et celle fondée sur le consentement explicite de la personne.
Une intervention humaine suffit-elle à sortir de l'interdiction ?
Seulement si elle est réelle. Une validation formelle par une personne qui ne dispose ni de l'information ni du pouvoir de modifier la décision ne fait pas sortir du champ de l'interdiction.
Nous contacter :
Nous répondons volontiers à toutes vos questions. Écrivez-nous à mc@cabinetpersee.com , contactez le cabinet sur WhatsApp, ou remplissez notre formulaire de contact.
Articles associés
Autres analyses juridiques du cabinet
