Crédit JOSH EDELSON / AFP
Paris, France | AFP | mardi 06/02/2024 - Le géant américain Meta veut identifier "dans les prochains mois" toute image générée par l'intelligence artificielle (IA) qui sera publiée sur ses réseaux sociaux, une décision prise sur fond de lutte contre la désinformation, au début d'une année riche en scrutins électoraux.
"Dans les prochains mois, nous étiquetterons les images que les utilisateurs publient sur Facebook, Instagram et Threads" lorsque nous pourrons détecter des signaux conformes aux normes de l'industrie montrant qu'elles sont générées par l'IA, a annoncé mardi Nick Clegg, le responsable des affaires internationales de Meta, dans une note de blog.
Si Meta a déjà mis en place ces étiquettes sur les images créées à partir de son outil Meta AI depuis son lancement en décembre, "nous voulons pouvoir le faire aussi avec des contenus créés avec des outils d'autres entreprises" comme Google, OpenAI, Microsoft, Adobe, Midjourney, ou encore Shutterstock, a-t-il ajouté.
"Nous sommes en train de construire cette capacité dès maintenant, et dans les mois à venir, nous commencerons à appliquer des étiquettes dans toutes les langues prises en charge par chaque application", a encore souligné le dirigeant.
Cette annonce survient alors que l'essor de l'IA générative fait craindre que des personnes n'utilisent ces outils pour semer le chaos politique, notamment par le biais de la désinformation ou de la mésinformation, à l'approche de plusieurs élections majeures qui se tiendront cette année dans divers pays où vit presque la moitié de la population mondiale, dont les Etats-Unis.
Au-delà de ces scrutins, le développement de programmes d'IA générative s'accompagne de la production d'un flux de contenus dégradants, selon de nombreux experts et régulateurs, à l'image des fausses images ("deepfakes") pornographiques de femmes célèbres, phénomène qui vise également des anonymes.
Une fausse image de la superstar américaine Taylor Swift a par exemple été vue 47 millions de fois sur le réseau social X (ex-Twitter) fin janvier avant d'être supprimée. Selon les médias américains, la publication est restée en ligne sur la plateforme pendant environ 17 heures.
Deepfakes
Si Nick Clegg admet que cet étiquetage à grande échelle "n'éliminera pas" totalement le risque de production de fausses images, "cela minimiserait certainement" sa prolifération "dans les limites de ce que la technologie permet actuellement".
"Ce n'est pas parfait, la technologie n'est pas encore tout à fait au point, mais c'est la tentative la plus avancée de toutes les plateformes jusqu'à présent pour fournir une transparence significative à des milliards de personnes dans le monde", a déclaré M. Clegg à l'AFP.
"J'espère vraiment qu'en faisant cela et en prenant les devants, nous inciterons le reste de l'industrie à travailler ensemble et à essayer de développer les normes (techniques) communes dont nous avons besoin", a ajouté le dirigeant de Meta, qui se dit prêt à "partager" sa technologie ouverte "le plus largement possible".
La société californienne OpenAI, créatrice de ChatGPT, a également annoncé mi-janvier le lancement d'outils pour combattre la désinformation, affirmant sa volonté de ne pas permettre l'utilisation de ses outils technologiques à des fins politiques.
"Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte" au processus démocratique, avait expliqué OpenAI, soulignant que son générateur d'images DALL-E 3 contient des "garde-fous" pour empêcher les utilisateurs de générer des images de personnes réelles, notamment de candidats.
"Dans les prochains mois, nous étiquetterons les images que les utilisateurs publient sur Facebook, Instagram et Threads" lorsque nous pourrons détecter des signaux conformes aux normes de l'industrie montrant qu'elles sont générées par l'IA, a annoncé mardi Nick Clegg, le responsable des affaires internationales de Meta, dans une note de blog.
Si Meta a déjà mis en place ces étiquettes sur les images créées à partir de son outil Meta AI depuis son lancement en décembre, "nous voulons pouvoir le faire aussi avec des contenus créés avec des outils d'autres entreprises" comme Google, OpenAI, Microsoft, Adobe, Midjourney, ou encore Shutterstock, a-t-il ajouté.
"Nous sommes en train de construire cette capacité dès maintenant, et dans les mois à venir, nous commencerons à appliquer des étiquettes dans toutes les langues prises en charge par chaque application", a encore souligné le dirigeant.
Cette annonce survient alors que l'essor de l'IA générative fait craindre que des personnes n'utilisent ces outils pour semer le chaos politique, notamment par le biais de la désinformation ou de la mésinformation, à l'approche de plusieurs élections majeures qui se tiendront cette année dans divers pays où vit presque la moitié de la population mondiale, dont les Etats-Unis.
Au-delà de ces scrutins, le développement de programmes d'IA générative s'accompagne de la production d'un flux de contenus dégradants, selon de nombreux experts et régulateurs, à l'image des fausses images ("deepfakes") pornographiques de femmes célèbres, phénomène qui vise également des anonymes.
Une fausse image de la superstar américaine Taylor Swift a par exemple été vue 47 millions de fois sur le réseau social X (ex-Twitter) fin janvier avant d'être supprimée. Selon les médias américains, la publication est restée en ligne sur la plateforme pendant environ 17 heures.
Deepfakes
Si Nick Clegg admet que cet étiquetage à grande échelle "n'éliminera pas" totalement le risque de production de fausses images, "cela minimiserait certainement" sa prolifération "dans les limites de ce que la technologie permet actuellement".
"Ce n'est pas parfait, la technologie n'est pas encore tout à fait au point, mais c'est la tentative la plus avancée de toutes les plateformes jusqu'à présent pour fournir une transparence significative à des milliards de personnes dans le monde", a déclaré M. Clegg à l'AFP.
"J'espère vraiment qu'en faisant cela et en prenant les devants, nous inciterons le reste de l'industrie à travailler ensemble et à essayer de développer les normes (techniques) communes dont nous avons besoin", a ajouté le dirigeant de Meta, qui se dit prêt à "partager" sa technologie ouverte "le plus largement possible".
La société californienne OpenAI, créatrice de ChatGPT, a également annoncé mi-janvier le lancement d'outils pour combattre la désinformation, affirmant sa volonté de ne pas permettre l'utilisation de ses outils technologiques à des fins politiques.
"Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte" au processus démocratique, avait expliqué OpenAI, soulignant que son générateur d'images DALL-E 3 contient des "garde-fous" pour empêcher les utilisateurs de générer des images de personnes réelles, notamment de candidats.