Les quatre situations couvertes par l’article 50
La Commission européenne distingue quatre cas d’application de l’article 50 dont voici un tableau récapitulatif.
| Acteur concerné | Situation | Obligation principale |
|---|---|---|
| Fournisseur | Chatbot, voicebot ou système interagissant directement avec une personne | Informer qu’elle interagit avec une IA, sauf si cela est évident |
| Fournisseur | Génération de texte, image, audio ou vidéo | Prévoir un marquage détectable et lisible par machine |
| Entreprise qui déploie le système | Reconnaissance des émotions ou catégorisation biométrique | Informer les personnes exposées |
| Entreprise qui diffuse le contenu | Deepfake ou texte d’intérêt public sans contrôle éditorial humain | Signaler clairement l’origine ou la manipulation artificielle par étiquetage |
Ce que l’article 50 n’impose pas systématiquement
Plusieurs limites et exceptions méritent d’être précisées :
- Un article préparé à l’aide de ChatGPT, Claude, Mistral, Gemini ou d’un autre outil d’IA n’a pas à être étiqueté lorsqu’il a fait l’objet, avant sa publication, d’un véritable examen humain portant sur le fond et que l’entreprise en assume la responsabilité éditoriale.
- Le fournisseur d’un outil d’IA n’a pas à appliquer de marquage lisible par machine lorsque l’outil se limite à corriger l’orthographe, la grammaire ou la mise en forme d’un texte rédigé par un humain.
- L’étiquetage visible concerne les images pouvant être prises pour des représentations authentiques de personnes, d’objets, de lieux ou d’événements réels ou plausibles. Une image photoréaliste montrant des personnes entièrement fictives peut donc relever de la définition européenne du deepfake.
Lorsqu’une entreprise fournit un chatbot ou un assistant IA
Une entreprise est considérée comme fournisseur lorsqu’elle développe ou fait développer un système d’IA et le met sur le marché ou en service sous son nom ou sa marque. Ce statut peut notamment concerner un assistant métier, un assistant documentaire reposant sur un RAG, un chatbot de support client, un assistant commercial ou un assistant vocal.
Lorsque le système interagit directement avec des clients, des prospects, des salariés ou d’autres utilisateurs, l’entreprise doit les informer qu’ils interagissent avec une IA.
Pour un chatbot, cette information doit apparaître dans l’interface au plus tard lors de la première interaction. Pour un assistant vocal ou un callbot, elle doit être diffusée oralement au début de l’échange.
L’information doit être claire, reconnaissable et accessible. Elle peut prendre la forme :
- d’une mention « Assistant IA » placée près de la zone de conversation ;
- d’un bandeau indiquant « Vous interagissez avec un système d’intelligence artificielle » ;
- d’un premier message tel que « Bonjour, je suis un assistant utilisant l’intelligence artificielle ».
Lorsqu’une entreprise utilise un chatbot prêt à l’emploi qui conserve le nom et la marque de son éditeur, elle agit généralement comme déployeur. Lorsqu’elle fait développer un assistant et le propose sous son propre nom ou sa propre marque, elle peut devenir fournisseur de ce système.
Images, vidéos et contenus audio : deux obligations différentes
L’article 50 prévoit deux mécanismes distincts.
Le fournisseur du système de génération doit intégrer un marquage lisible par machine permettant d’identifier les contenus comme ayant été générés ou manipulés par une IA. Ce marquage peut notamment reposer sur des métadonnées de provenance conformes au standard C2PA ou sur un tatouage numérique invisible tel que SynthID.
Ce marquage permet d’identifier l’origine artificielle du contenu. Il ne certifie pas que le contenu est exact, authentique ou véridique.
Les métadonnées peuvent disparaître lors d’une compression, d’une conversion de format, d’une capture d’écran ou d’une republication sur certaines plateformes. Les tatouages invisibles peuvent également être altérés par certaines transformations. Le marquage technique ne remplace donc pas l’information visible exigée lorsqu’un contenu constitue un deepfake.
La définition européenne du deepfake est plus large que son sens courant. Elle couvre les permutations de visages, les synchronisations labiales, les imitations vocales et les représentations entièrement synthétiques de personnes, d’objets, de lieux ou d’événements plausibles.
Le photoréalisme ne suffit pas, à lui seul, à qualifier une image de deepfake. Le contexte de diffusion et la capacité de l’image à être prise pour une photographie authentique doivent également être examinés.
En pratique, une image photoréaliste représentant des personnes fictives doit être étiquetée lorsqu’elle peut raisonnablement être prise pour une véritable photographie. Une illustration clairement stylisée ou une scène manifestement impossible ne présente généralement pas ce risque.
Lorsque l’étiquetage est obligatoire, l’entreprise peut utiliser une mention visible telle que « Généré par IA ». Les icônes proposées par l’Union européenne sont facultatives.
Pour aller plus loin :
- Texte et explication de l’article 50
- Lignes directrices de la Commission européenne sur les obligations de transparence
- Icônes européennes pour l’étiquetage des contenus générés par l’IA
Les cinq vérifications à engager dès maintenant
- Recenser les interactions automatisées visibles par vos clients, prospects, candidats et salariés : chatbots, voicebots, avatars, assistants ou agents.
- Identifier les contenus synthétiques que vous diffusez : vidéos, voix, visages, témoignages, démonstrations ou reconstitutions.
- Déterminer le rôle de votre entreprise pour chaque usage : simple utilisatrice, déployeur(1) ou fournisseur(2) d’un système développé, adapté ou proposé sous sa marque.
- Formaliser le contrôle éditorial humain des publications : validation, responsable identifié et conservation d’une preuve de la revue.
- Vérifier les fournisseurs(2) et les interfaces : avertissement lors de la première interaction, accessibilité, marquage technique et engagements contractuels.
(1) Un déployeur, selon l’article 3 de l’AI Act, désigne toute personne physique ou morale, autorité publique, agence ou autre organisme qui utilise un système d’IA sous sa responsabilité, sauf si l’utilisation est à des fins personnelles non professionnelles.
(2) Un fournisseur développe ou fait développer le système, puis le met sur le marché ou en service sous son nom ou sa marque. Ce rôle est également défini par l’AI Act.
Le non-respect des obligations prévues par l’article 50 peut être sanctionnée par une amende pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, avec une application proportionnée aux PME.
Précision sur le cadre d’application : une période transitoire jusqu’en décembre 2026 concerne le marquage par les fournisseurs de certains systèmes génératifs déjà mis sur le marché avant le 2 août. Elle ne constitue pas un report général de l’article 50.
Si vous n’avez pas encore cartographié vos usages IA et les responsabilités qui leur sont associées, vous pouvez nous contacter ou réserver un échange de cadrage.
David Latos
