OpenAI a récemment mis à jour ses applications ChatGPT et DALL-E 3 pour intégrer le marquage des métadonnées. Grâce à cette nouvelle fonctionnalité, les images générées par ces outils portent désormais des informations intégrées qui les identifient clairement comme des produits de la technologie de l’IA, ce qui apporte une plus grande transparence dans le contenu numérique.
Aligner les efforts :
Meta, connu pour son vaste réseau de médias sociaux comprenant Instagram, Facebook et Threads, avait précédemment annoncé son intention de mettre en place un système d’étiquetage pour les images produites par son générateur d’IA, Imagine. L’alignement d’OpenAI sur la stratégie de Meta constitue un effort concerté au sein de la communauté technologique pour relever les défis posés par l’IA en matière d’authenticité des contenus.
Mise en œuvre :
La fonction de marquage des métadonnées d’OpenAI est déjà opérationnelle pour les utilisateurs du web, avec un engagement d’étendre sa disponibilité aux utilisateurs mobiles au premier trimestre 2024. Afin de faciliter la vérification des images générées par l’IA, l’OpenAI a mis en place un outil sur le site Web Content Credentials, conçu pour permettre aux utilisateurs de télécharger des images et de déterminer si elles ont été produites par l’IA.
Comment le C2PA lutte contre la désinformation
La Coalition for Content Provenance and Authenticity (C2PA) est une initiative de collaboration entre des organisations de premier plan telles qu’Adobe, ARM, Intel, Microsoft et le New York Times. Leur mission collective est axée sur l’élaboration de normes permettant d’authentifier la source et l’historique des contenus médiatiques.
Depuis sa création en février 2021, la C2PA se consacre à l’élaboration de normes techniques qui certifient l’origine et les données historiques des contenus médiatiques. La désinformation et la fraude de contenu constituant des menaces persistantes pour l’intégrité des médias numériques, les normes de la C2PA sont conçues pour offrir une méthode de vérification qui peut renforcer la confiance dans l’authenticité du contenu circulant en ligne. En établissant de telles normes, la C2PA cherche à atténuer les risques liés à la diffusion d’informations fausses ou trompeuses.
L’introduction de l’étiquetage des métadonnées par OpenAI dans ses applications ChatGPT et DALL-E 3 est une approche avant-gardiste de la vérification du contenu. Malgré cette innovation, le fait que l’OpenAI reconnaisse que les métadonnées peuvent être altérées ou complètement supprimées montre qu’il existe un problème sérieux dans le marketing numérique récent. Étant donné la facilité avec laquelle les informations numériques peuvent être modifiées, la fiabilité des métadonnées en tant que seul vérificateur de l’authenticité est compromise. Cette situation met en évidence la nécessité d’adopter des approches à multiples facettes pour la vérification des contenus, en combinant la technologie, la politique et l’éducation des utilisateurs afin de créer un environnement numérique plus sûr.
Mise en œuvre immédiate et projets futurs
Mise en œuvre sur le web et sur les téléphones portables :
La disponibilité immédiate de la fonction de marquage des métadonnées pour les utilisateurs du web montre la réponse rapide de l’OpenAI aux préoccupations croissantes concernant les contenus générés par l’IA. L’extension ultérieure aux utilisateurs mobiles reflète une compréhension des diverses façons dont le contenu numérique est consommé aujourd’hui. Les appareils mobiles devenant de plus en plus le principal moyen d’accès à l’internet pour de nombreux utilisateurs dans le monde, il est essentiel de garantir la disponibilité de cette fonction sur toutes les plateformes pour qu’elle soit largement efficace.
Outil de vérification du contenu :
Le lancement d’un outil de vérification du contenu sur le site web de Content Credentials est une étape pratique pour permettre aux utilisateurs de discerner l’origine des images qu’ils rencontrent. Cet outil est toutefois limité aux images générées après la mise à jour, ce qui met en évidence une lacune dans la vérification du contenu historique. Les images générées par l’IA devenant de plus en plus courantes, les outils et les technologies permettant de vérifier l’authenticité des contenus numériques nouveaux et existants seront essentiels pour maintenir la confiance et l’intégrité dans les médias numériques.
Le contexte plus large de l’impact de l’IA sur la société
L’utilisation abusive de contenus générés par l’IA, illustrée par les « deepfakes » et les escroqueries financières, a mis en lumière la face cachée des progrès de l’IA. Cette affaire de fraude de 25 millions de dollars rappelle brutalement les risques financiers et éthiques posés par les technologies d’IA sophistiquées. Les contenus explicites non consensuels, créés et diffusés sans le consentement des individus, soulignent une fois de plus le besoin urgent d’une gouvernance efficace et de lignes directrices éthiques pour le développement et l’utilisation de l’IA.
Face à ces défis, l’appel à des normes telles que la C2PA est plus qu’une nécessité technique, c’est un impératif moral. L’établissement et le respect de normes solides pour la provenance et l’authenticité des contenus sont essentiels pour se prémunir contre l’utilisation abusive des technologies de l’IA. L’IA continuant d’évoluer, l’élaboration de ces normes doit suivre le rythme, afin de s’assurer qu’elles s’adaptent aux nouvelles menaces et qu’elles sont capables de fournir un moyen fiable de vérification du contenu.
Le filigrane public de Meta
L’introduction par Meta d’un filigrane orienté vers le public, symbolisé par un emoji scintillant, représente une approche innovante de l’étiquetage du contenu de l’IA. Cette méthode donne la priorité à l’expérience de l’utilisateur, ce qui permet aux spectateurs d’identifier en un coup d’œil le contenu généré par l’IA. Une telle approche accroît la transparence tout en sensibilisant le public à la prévalence des contenus générés par l’IA, contribuant ainsi à une citoyenneté numérique mieux informée.
L’anticipation qui entoure le déploiement par Meta de son système d’étiquetage de l’IA, bien qu’il soit encore en phase de conception, montre clairement que l’industrie reconnaît l’importance de telles mesures. En s’appuyant sur des normes établies telles que la C2PA et la norme IPTC sur les métadonnées des photos, Meta se positionne comme un leader dans le déploiement responsable des technologies de l’IA. Le succès de cette initiative pourrait créer un précédent pour d’autres entreprises technologiques, en encourageant une adoption plus large de pratiques d’étiquetage de contenu transparentes et conviviales dans le paysage numérique.
