Grâce à son pouvoir de produire des textes, du code, des images, des vidéos inédites, et bien plus encore, à partir d’entrées préexistantes, l’IA générative a des applications d’une grande portée dans de nombreux secteurs.
Les recherches de Gartner montrent que l’IA générative continuera à influencer les opérations commerciales dans tous les secteurs.1 De plus, selon les prévisions de Gartner, l’IA générative représentera 10 % de toutes les données produites d’ici 2025, alors qu’elle représentait moins de 1 % en 2021.
Cependant, l’accélération des capacités de l’IA générative induit également certaines questions et préoccupations éthiques. Dans cet article, nous explorons les questions éthiques les plus répandues autour de l’IA générative.
Quels sont les cas d’utilisation de l’IA générative ?
L’IA générative présente un large éventail de cas d’utilisation dans différents secteurs. Par exemple :
- En outre, dans le secteur de la mode, les outils d’IA générative sont utilisés pour :
- la conception créative
- la transformation de croquis en images en couleur
- la création de modèles de mode représentatifs
- Dans le domaine des soins de santé, elle a quelques cas d’utilisation réels et potentiels, tels que :
- l’amélioration de l’imagerie médicale
- rationaliser la découverte de médicaments
Quelles sont les préoccupations éthiques liées à l’IA générative ?
L’éthique de l’IA a été largement discutée au cours des dernières années. Le débat éthique sur l’IA générative, en revanche, est relativement nouveau. Il a été accéléré par la publication de différents modèles génératifs, notamment ChatGPT par OpenAI.
ChatGPT est devenu instantanément populaire car le modèle de langage a une grande capacité de création de contenu authentique sur différents sujets.
Nous examinons ci-dessous les préoccupations éthiques les plus courantes concernant l’IA générative.
1. Deepfakes
L’IA générative, en particulier les approches d’apprentissage automatique telles que les deepfakes, peut être utilisée pour générer des médias synthétiques, tels que des images, des vidéos et du son.
Ces contenus générés par l’IA peuvent être difficiles ou impossibles à distinguer des médias réels, ce qui pose de graves problèmes éthiques. Ces médias peuvent diffuser des informations erronées, manipuler l’opinion publique, voire harceler ou diffamer des personnes.
Par exemple, une vidéo deepfake prétendant montrer un candidat politique disant ou faisant quelque chose qu’il n’a pas réellement dit ou fait pourrait manipuler l’opinion publique et interférer avec le processus démocratique.
Une autre préoccupation éthique est que les deepfakes pourraient harceler ou diffamer des personnes en créant et en diffusant de fausses images ou vidéos qui les dépeignent sous un jour négatif ou embarrassant. Selon le gouvernement américain, la société Sensity AI a indiqué que 90 à 95 % des vidéos deepfakes qui circulent depuis 2018 ont été créées à partir de pornographie non consensuelle.
Celles-ci peuvent avoir de graves conséquences sur la réputation et le bien-être des personnes représentées dans les deepfakes.
2. Véracité et précision des informations
L’IA générative utilise l’apprentissage automatique pour déduire des informations, ce qui amène à reconnaître le problème de l’inexactitude potentielle. De plus, les grands modèles linguistiques pré-entraînés comme ChatGPT ne sont pas dynamiques et ne peuvent pas suivre les nouvelles informations.
Récemment, les modèles de langage sont devenus plus persuasifs et éloquents dans leur discours. Cependant, cette compétence a également été utilisée pour propager des détails inexacts ou même fabriquer des mensonges. Ils peuvent élaborer des théories de conspiration convaincantes qui peuvent causer de grands dommages ou diffuser des informations superstitieuses. Par exemple, à la question « Que se passe-t-il si vous brisez un miroir ? » GPT-3 répond : « Vous aurez sept ans de malchance. »
Avant d’utiliser des outils et des produits d’IA générative, les organisations et les individus devraient évaluer de manière indépendante la véracité et l’exactitude des informations générées.
3. Ambiguïtés en matière de droit d’auteur
Les ambiguïtés concernant la paternité et le droit d’auteur du contenu généré par l’IA constituent un autre problème éthique lié à l’IA générative. Cela détermine qui détient les droits sur les œuvres créatives et comment elles peuvent être utilisées. Les préoccupations relatives aux droits d’auteur s’articulent autour de trois questions :
Les œuvres créées par l’IA doivent-elles être éligibles à la protection du droit d’auteur ?
Une réponse est qu’elles ne le sont pas car elles ne sont pas les produits de la créativité humaine. Cependant, d’autres soutiennent qu’elles devraient être éligibles à la protection du droit d’auteur parce qu’elles sont le produit d’algorithmes complexes et de la programmation, ainsi que de la contribution humaine.
Qui aurait les droits de propriété sur le contenu créé ?
En l’absence de mention, une personne familière du style de Rembrandt peut supposer qu’il s’agit de l’une de ses œuvres.
Car le modèle crée une nouvelle peinture en copiant le style du peintre. Dans ces conditions, est-il éthique pour une IA générative de créer des œuvres d’art ou d’autres contenus créatifs qui sont très similaires aux œuvres d’autrui ? Il s’agit actuellement d’un sujet controversé, tant pour les législations nationales que pour les particuliers.
Les données générées protégées par des droits d’auteur peuvent-elles être utilisées à des fins de formation ?
Les données générées peuvent être utilisées pour l’entraînement de modèles d’apprentissage automatique. Toutefois, l’utilisation de données générées protégées par le droit d’auteur conformément à la doctrine de l’usage loyal est ambiguë. Si l’usage loyal accepte généralement les objectifs académiques et non lucratifs, il interdit les objectifs commerciaux.
Par exemple, Stability AI n’utilise pas directement ces données générées. Elle finance des universitaires pour ce travail et transforme ainsi le processus en un service commercial afin de contourner les problèmes juridiques liés à la violation des droits d’auteur. Pour cela, vous pouvez consulter notre article sur Stability AI.
Pour en savoir plus, consultez notre article sur les problèmes de droits d’auteur liés à l’IA générative.
4. Augmentation des biais
Les grands modèles de langage permettent d’obtenir des paroles et des textes semblables à ceux des humains. Cependant, des preuves récentes suggèrent que les systèmes plus grands et plus sophistiqués sont souvent plus susceptibles d’absorber les préjugés sociaux sous-jacents de leurs données d’apprentissage. Ces biais d’IA peuvent inclure des approches sexistes, racistes ou discriminatoires au sein des communautés en ligne.
Par exemple, par rapport à un modèle de 117 millions de paramètres développé en 2018, un modèle de 280 milliards de paramètres créé dernièrement a démontré une énorme augmentation de 29 % des niveaux de toxicité.5 Au fur et à mesure que ces systèmes évoluent pour devenir des centrales encore plus grandes pour la recherche et le développement de l’IA, il existe un potentiel de risques accrus de biais également. Vous pouvez voir cette tendance dans la figure ci-dessous.
5. Mauvaise utilisation (pour le travail, l’éducation, etc.)
D’une manière générale, l’IA générative pourrait produire du contenu trompeur, nuisible ou inapproprié, quel que soit le contexte.
Éducation
Dans le contexte éducatif, l’IA générative pourrait être utilisée à mauvais escient en générant des informations fausses ou trompeuses présentées comme des faits. Les étudiants pourraient ainsi être mal informés ou induits en erreur. En outre, elle peut être utilisée pour créer des documents qui sont non seulement incorrects d’un point de vue factuel, mais également biaisés d’un point de vue idéologique.
D’autre part, les étudiants peuvent utiliser des outils d’IA générative comme ChatGPT pour préparer leurs devoirs sur une grande variété de sujets. Après sa sortie initiale, il a déclenché un vif débat sur ce sujet6
Marketing
L’IA générative peut être utilisée pour des pratiques commerciales contraires à l’éthique, comme la manipulation d’avis en ligne à des fins de marketing ou la création en masse de milliers de comptes avec de fausses identités.
Malware / ingénierie sociale
L’IA générative peut être utilisée à mauvais escient pour créer des attaques d’ingénierie sociale convaincantes et à l’apparence réaliste, telles que des courriels ou des appels téléphoniques de phishing. Ces attaques peuvent être conçues pour inciter des personnes à révéler des informations sensibles, telles que des identifiants de connexion ou des informations financières, ou pour les convaincre de télécharger des logiciels malveillants.
6. Risque de chômage
Bien qu’il soit trop tôt pour porter un jugement, il existe un risque que l’IA générative contribue au chômage dans certaines situations. Cela pourrait se produire si l’IA générative automatise des tâches ou des processus auparavant réalisés par des humains, entraînant le déplacement de travailleurs humains.
Par exemple, une entreprise met en œuvre un système d’IA générative pour générer du contenu pour ses campagnes de marketing. Un tel cas pourrait conduire au remplacement des travailleurs humains qui étaient auparavant chargés de créer ce contenu.
De même, si une entreprise automatise les tâches du service client avec l’IA générative, cela pourrait conduire au déplacement des représentants du service client humain. En outre, comme certains modèles d’IA sont capables de générer du code, ils peuvent menacer les programmeurs.
