Crédit WANG ZHAO / AFP
Pékin, Chine | AFP | vendredi 18/08/2023 - La Chine a lancé cette semaine une nouvelle réglementation sur les contenus générés par l'intelligence artificielle (IA), afin de maintenir le pays dans la course sur ce créneau porteur, tout en maintenant un strict contrôle.
L'IA générative suscite une inquiétude croissante dans le monde, car cette technologie peut être utilisée à des fins malveillantes. Comme avec les vidéos "deepfake" qui font dire à des personnes des choses qu'elles n'ont pas dites.
En parallèle, des entreprises chinoises tentent de concevoir des services d'intelligence artificielle aussi performants que le logiciel ChatGPT lancé par l'américain OpenAI - qui est pour l'instant bloqué en Chine.
Selon des experts, les 24 nouvelles règles chinoises semblent avoir été édulcorées par rapport à un projet de réglementation, plus strict, publié en début d'année.
Objectif de Pékin: ne pas décourager les entreprises chinoises de se lancer dans ce secteur, pour l'heure principalement dominé par leurs homologues américaines.
Voici ces nouvelles règles, qui concernent les services destinés au grand public:
Ethique
L'IA générative doit "adhérer aux valeurs fondamentales du socialisme", ne pas menacer la sécurité nationale ou promouvoir le terrorisme, la violence ou la "haine raciale", indique le texte.
Les fournisseurs de services doivent présenter les contenus générés par intelligence artificielle comme tels et prévenir toute discrimination basée sur le sexe, l'âge et le groupe ethnique lors de la conception des algorithmes.
Leurs logiciels ne doivent pas créer de contenu contenant des "informations fausses et nuisibles".
Les données utilisées pour l'entraînement des logiciels d'IA doivent être obtenues légalement et ne pas porter atteinte aux droits de propriété intellectuelle d'autrui.
Sécurité
Les entreprises qui conçoivent des logiciels d'IA générative accessibles au grand public doivent "prendre des mesures efficaces pour empêcher les utilisateurs mineurs de dépendre de façon excessive" de ces services ou "d'en devenir dépendants", selon les règles publiées en juillet par l'organisme chinois chargé de la régulation de l'internet.
Ces sociétés doivent également permettre aux utilisateurs de signaler les contenus inappropriés. Elles doivent par ailleurs supprimer rapidement tout contenu illégal.
Les fournisseurs de services doivent procéder à des évaluations de sécurité et soumettre aux autorités des rapports sur leurs algorithmes.
Surprise: cette règle ne s'imposera finalement qu'aux entreprises dont les logiciels sont considérés comme ayant une influence sur "l'opinion publique" et pas à l'ensemble d'entre elles - comme prévu dans le projet initial.
Application
Les nouvelles règles sont techniquement des "mesures provisoires" soumises aux lois chinoises préexistantes.
Ce sont les dernières en date d'une série de réglementations visant divers aspects de l'intelligence artificielle.
"Dès le départ, et un peu différemment de l'Union européenne (UE), la Chine a adopté une approche plus verticale" en matière de législation, "en se concentrant davantage sur des questions spécifiques", selon le cabinet d'avocats Taylor Wessing.
Le projet de réglementation prévoyait une amende pouvant aller jusqu'à 100.000 yuans (12.600 euros) en cas d'infraction.
Mais selon les nouvelles règles, une infraction ne fera l'objet que d'un avertissement ou d'une suspension. Elle ne sera sévèrement sanctionnée que si elle enfreint les lois en vigueur.
"La législation chinoise est à mi-chemin entre celle de l'Union européenne (UE) et celle des États-Unis, l'UE ayant l'approche la plus stricte et les États-Unis la plus souple", indique à l'AFP Angela Zhang, professeure de droit à l'Université de Hong Kong.
Soutien à l'innovation
La première version du texte visait notamment à maintenir le strict contrôle des censeurs sur les contenus, affirme Jeremy Daum, spécialiste de la Chine à la faculté de droit de Yale (Etats-Unis).
Mais plusieurs restrictions sur l'IA générative ont été assouplies.
"Bon nombre des contrôles les plus stricts sont abandonnés, au profit de la promotion du développement et de l'innovation dans le secteur de l'intelligence artificielle", souligne M. Daum sur son blog China Law Translate.
Le champ d'application des règles a été considérablement réduit. Elles ne s'appliquent désormais qu'à l'IA générative accessible au grand public - et plus aux utilisations à des fins de recherche et de développement.
"Ce changement peut être considéré comme un signe que Pékin souscrit à l'idée d'une course à l'intelligence artificielle, dans laquelle elle doit rester compétitive", estime M. Daum.
L'IA générative suscite une inquiétude croissante dans le monde, car cette technologie peut être utilisée à des fins malveillantes. Comme avec les vidéos "deepfake" qui font dire à des personnes des choses qu'elles n'ont pas dites.
En parallèle, des entreprises chinoises tentent de concevoir des services d'intelligence artificielle aussi performants que le logiciel ChatGPT lancé par l'américain OpenAI - qui est pour l'instant bloqué en Chine.
Selon des experts, les 24 nouvelles règles chinoises semblent avoir été édulcorées par rapport à un projet de réglementation, plus strict, publié en début d'année.
Objectif de Pékin: ne pas décourager les entreprises chinoises de se lancer dans ce secteur, pour l'heure principalement dominé par leurs homologues américaines.
Voici ces nouvelles règles, qui concernent les services destinés au grand public:
Ethique
L'IA générative doit "adhérer aux valeurs fondamentales du socialisme", ne pas menacer la sécurité nationale ou promouvoir le terrorisme, la violence ou la "haine raciale", indique le texte.
Les fournisseurs de services doivent présenter les contenus générés par intelligence artificielle comme tels et prévenir toute discrimination basée sur le sexe, l'âge et le groupe ethnique lors de la conception des algorithmes.
Leurs logiciels ne doivent pas créer de contenu contenant des "informations fausses et nuisibles".
Les données utilisées pour l'entraînement des logiciels d'IA doivent être obtenues légalement et ne pas porter atteinte aux droits de propriété intellectuelle d'autrui.
Sécurité
Les entreprises qui conçoivent des logiciels d'IA générative accessibles au grand public doivent "prendre des mesures efficaces pour empêcher les utilisateurs mineurs de dépendre de façon excessive" de ces services ou "d'en devenir dépendants", selon les règles publiées en juillet par l'organisme chinois chargé de la régulation de l'internet.
Ces sociétés doivent également permettre aux utilisateurs de signaler les contenus inappropriés. Elles doivent par ailleurs supprimer rapidement tout contenu illégal.
Les fournisseurs de services doivent procéder à des évaluations de sécurité et soumettre aux autorités des rapports sur leurs algorithmes.
Surprise: cette règle ne s'imposera finalement qu'aux entreprises dont les logiciels sont considérés comme ayant une influence sur "l'opinion publique" et pas à l'ensemble d'entre elles - comme prévu dans le projet initial.
Application
Les nouvelles règles sont techniquement des "mesures provisoires" soumises aux lois chinoises préexistantes.
Ce sont les dernières en date d'une série de réglementations visant divers aspects de l'intelligence artificielle.
"Dès le départ, et un peu différemment de l'Union européenne (UE), la Chine a adopté une approche plus verticale" en matière de législation, "en se concentrant davantage sur des questions spécifiques", selon le cabinet d'avocats Taylor Wessing.
Le projet de réglementation prévoyait une amende pouvant aller jusqu'à 100.000 yuans (12.600 euros) en cas d'infraction.
Mais selon les nouvelles règles, une infraction ne fera l'objet que d'un avertissement ou d'une suspension. Elle ne sera sévèrement sanctionnée que si elle enfreint les lois en vigueur.
"La législation chinoise est à mi-chemin entre celle de l'Union européenne (UE) et celle des États-Unis, l'UE ayant l'approche la plus stricte et les États-Unis la plus souple", indique à l'AFP Angela Zhang, professeure de droit à l'Université de Hong Kong.
Soutien à l'innovation
La première version du texte visait notamment à maintenir le strict contrôle des censeurs sur les contenus, affirme Jeremy Daum, spécialiste de la Chine à la faculté de droit de Yale (Etats-Unis).
Mais plusieurs restrictions sur l'IA générative ont été assouplies.
"Bon nombre des contrôles les plus stricts sont abandonnés, au profit de la promotion du développement et de l'innovation dans le secteur de l'intelligence artificielle", souligne M. Daum sur son blog China Law Translate.
Le champ d'application des règles a été considérablement réduit. Elles ne s'appliquent désormais qu'à l'IA générative accessible au grand public - et plus aux utilisations à des fins de recherche et de développement.
"Ce changement peut être considéré comme un signe que Pékin souscrit à l'idée d'une course à l'intelligence artificielle, dans laquelle elle doit rester compétitive", estime M. Daum.