La reconnaissance automatique de contenus de l’IA n’est pas fiable. Pourquoi ?

David Lee

4/6/2024

Traduction : Stéphanie Casada

Le fait qu’une image, un texte ou une vidéo ait été créé à l’aide de l’intelligence artificielle (IA) devrait être visible. Mais ce n’est pas si simple. Instagram en est l’exemple le plus récent. Toutes les autres tentatives ont jusqu’à présent aussi échoué.

L’intention est louable. Le seul hic, c’est qu’elle n’est pas fiable. Selon divers rapports (en anglais), Instagram tague également de vraies photos qui n’ont en aucun cas été générées par un outil d’intelligence artificielle. Ce qui a le don d’irriter les photographes concernés.

Photoshop utilise également des techniques relevant de l’intelligence artificielle, par exemple pour les retouches ou le débruitage. Adobe fait partie de l’organisation C2PA, qui se consacre à la transparence des contenus créatifs. Je suppose que, pour des raisons de transparence, Photoshop écrit dans les métadonnées lorsqu’une photo a été traitée par l’IA.

Mais cela ne fait pas d’une photo prise de manière traditionnelle une photo « Made with AI ». Une photo sur laquelle une tache gênante est retouchée avec un pinceau de réparation est très différente d’une image créée de toutes pièces avec Midjourney, Dall-E ou Stable Diffusion.

Les filigranes ne sont pas le bon moyen de démasquage

Les Content Credentials, une sorte de filigrane numérique codé, permettent de prouver l’authenticité des photos et de rendre transparentes les différentes étapes de traitement. Les interventions de l’IA en font partie. L’objectif : une documentation complète du processus de création.

Avec de telles métadonnées codées, les créateurs peuvent prouver ce qu’ils ont fait. L’inverse n’est toutefois pas possible. On ne peut pas utiliser de filigrane pour prouver qu’une photo n’est pas authentique.

Toute l’idée repose sur le fait que les créateurs de contenus sont eux-mêmes intéressés par la transparence. Elle ne permet pas de démasquer les supercheries. C’est pourtant ce que veut Meta.

Si cela ne fonctionne pas avec les filigranes, avec quoi cela fonctionne-t-il ? Ce qui a déjà été tenté à plusieurs reprises : détecter l’IA à l’aide de l’IA. Mais cela n’a jamais fonctionné jusqu’à présent.

Détecter l’IA à l’aide de l’IA ne fonctionne pas

Il est possible qu’il existe une sorte de style typique de ChatGPT. Mais ce n’est que le réglage par défaut, qui peut être modifié. Ces générateurs, qu’il s’agisse de texte, d’image ou de musique, sont très flexibles dans leur style. Ils peuvent imiter des genres ou même des individus.

Dans le détail, les choses peuvent être différentes pour les images et pour les textes. Mais le problème de fond demeure. Une IA qui doit reconnaître l’IA de manière fiable devrait être beaucoup plus avancée ou du moins fonctionner très différemment de l’outil d’IA à vérifier. Et c’est précisément ce qui n’est pas le cas : la reconnaissance des formes et la génération de formes sont basées sur la même technologie.

Tant que rien ne changera fondamentalement, nous continuerons à être confrontés à de fâcheuses erreurs de marquage.

David Lee

Senior Editor

David.Lee@digitecgalaxus.ch

Mon intéret pour l'informatique et l'écriture m'a mené relativement tôt (2000) au journalisme technique. Comment utiliser la technologie sans se faire soi-même utiliser m'intéresse. Dans mon temps libre, j'aime faire de la musique où je compense mon talent moyen avec une passion immense. plus

---

En coulisse

Des informations intéressantes sur le monde des produits, un aperçu des coulisses des fabricants et des portraits de personnalités intéressantes.

Tout afficher

Ces articles pourraient aussi vous intéresser