• Accueil
  • Technologie
  • Education
  • Guides
  • Fun
  • Outils IA
  • ChatGPT
Facebook Twitter Instagram
dimanche, mars 19
Facebook Twitter Instagram
Intelligence artificielle
  • Accueil
  • Technologie
  • Education
  • Guides
  • Fun
  • Outils IA
  • ChatGPT
Intelligence artificielle
Home»ChatGPT»Le côté obscur de la formation des modèles d’IA
ChatGPT

Le côté obscur de la formation des modèles d’IA

JeanBy Jeanfévrier 8, 2023Updated:février 8, 2023Aucun commentaire3 Mins Read
Facebook Twitter Pinterest LinkedIn Tumblr Email
Le côté obscur de la formation des modèles d'IA
Share
Facebook Twitter LinkedIn Pinterest Email

Un nouveau rapport d’enquête vient de révéler le côté obscur de la formation des outils d’IA comme ChatGPT.

Le Time rapporte qu’OpenAI a utilisé des travailleurs kenyans externalisés gagnant moins de 2 $ par jour pour rendre ChatGPT moins toxique.

Pour ce faire, les travailleurs ont dû examiner et étiqueter de grandes quantités de textes dérangeants pour s’assurer que ChatGPT ne les utilisait pas dans ses réponses. Il s’agissait notamment de contenus violents, sexistes et racistes qui, dans certains cas, étaient extrêmement graphiques.

Certains travailleurs ont signalé de graves traumatismes mentaux résultant de ce travail, qui a finalement été suspendu par OpenAI et Sama, la société d’externalisation impliquée.

Voici ce que vous devez savoir.

1. Malheureusement, ce n’est pas un phénomène nouveau.

Grâce à ChatGPT, tout le monde s’intéresse à l’IA. Mais peu de nouveaux venus dans ce domaine savent comment les modèles d’IA sont formés.

Le rapport du Time, bien qu’inquiétant, n’est pas un phénomène nouveau. Depuis plus d’une décennie, l’IA utilisée pour modérer le contenu des sites de médias sociaux est formée de manière similaire.

Cela ne signifie pas qu’OpenAI n’a pas de responsabilité. Cela signifie que toute entreprise formant des modèles de langage ou d’image – ou des modèles d’IA qui modèrent le contenu – fait quelque chose de similaire pour former des modèles sur du contenu toxique.

« La zone grise, c’est que c’est ainsi que tous ces outils et plateformes sont formés », déclare Roetzer.

2. Et malheureusement, les humains doivent former l’IA au contenu toxique.

L’IA ne reconnaît pas d’elle-même les contenus toxiques.

« La seule façon pour l’IA de détecter et de supprimer automatiquement ces contenus avant qu’ils ne se répandent est d’apprendre qu’ils sont mauvais », explique Roetzer. Elle apprend des humains qui doivent identifier et étiqueter le contenu toxique encore et encore, jusqu’à ce que le système d’IA en apprenne suffisamment pour identifier le contenu par lui-même.

Jasper

3. Vous devrez de plus en plus poser des questions difficiles sur la technologie d’IA que vous achetez.

Les organisations s’empressent désormais d’intégrer l’IA dans tous les aspects de leurs activités.

Au fur et à mesure que vous évaluez et achetez des technologies d’IA, vous vous retrouverez probablement dans des scénarios où vous devrez comprendre d’où vient la formation et comment les résultats ont été générés.

Ce n’est pas seulement parce qu’elle a été formée par des données étiquetées de manière problématique. (Bien que cela soit important.) C’est aussi parce que vous devez savoir des choses comme :

  • L’IA a-t-elle été entraînée sur des données protégées par des droits d’auteur ?
  • L’IA a-t-elle été entraînée sur des données comportant des biais inhérents qui remettent en question les résultats ?
  • L’IA a-t-elle été entraînée sur des données complètes qui n’entraînent pas de failles dans les résultats ?

Share. Facebook Twitter Pinterest LinkedIn Tumblr Email
Jean
  • Website

Related Posts

Artificial Intelligence in Tourism Industry Revolutionising the Way We Travel

Artificial Intelligence in Tourism Industry: Revolutionising the Way We Travel

mars 18, 2023
The Growing Role of AI in Supply Chain Management

Le rôle croissant de l’IA dans la gestion de la chaîne d’approvisionnement

mars 17, 2023
réseau adversarial génératif (GAN)

10 Cas d’utilisation du GAN en 2023

mars 16, 2023

Comments are closed.

Bienvenue sur le Mag dédié à l’intelligence artificelle

Ce site est dédié à l’IA et au machine learning et est un moyen de partager notre passion pour tout ce qui touche de près ou de loin à cette nouvelle révolution.
Que vous soyez passionné par les évolutions dans ce secteur, à la recherche d’outils ou d’astuces pour automatiser votre activité, ce blog est fait pour vous !

Articles récents
Artificial Intelligence in Tourism Industry Revolutionising the Way We Travel
Artificial Intelligence in Tourism Industry: Revolutionising the Way We Travel
mars 18, 2023
The Growing Role of AI in Supply Chain Management
Le rôle croissant de l’IA dans la gestion de la chaîne d’approvisionnement
mars 17, 2023
réseau adversarial génératif (GAN)
10 Cas d’utilisation du GAN en 2023
mars 16, 2023
IA social
  • Facebook
  • Twitter
  • Pinterest
Artificial Intelligence in Tourism Industry Revolutionising the Way We Travel Actualité IA
5 Mins Read
Artificial Intelligence in Tourism Industry: Revolutionising the Way We Travel
By Jeanmars 18, 2023

Are you tired of spending hours on end researching and planning your next vacation? Do…

The Growing Role of AI in Supply Chain Management

Le rôle croissant de l’IA dans la gestion de la chaîne d’approvisionnement

mars 17, 2023
réseau adversarial génératif (GAN)

10 Cas d’utilisation du GAN en 2023

mars 16, 2023
Note

Nous sommes soutenus par nos lecteurs. Lorsque vous effectuez des achats par le biais de liens présents sur notre site, nous pouvons recevoir une commission d’affiliation.

Facebook Twitter Instagram Pinterest
  • À propos
  • Confidentialité
  • Écrivez pour nous
  • Contact
Tous droits réservés 2023 - Plan du site

Type above and press Enter to search. Press Esc to cancel.