«Norman», le nouveau Terminator ? Des chercheurs mettent au point une IA psychopathe

«Norman», le nouveau Terminator ? Des chercheurs mettent au point une IA psychopathe
Source : LesInfos.ma
13/06/2018 14:20

Des chercheurs américains mettent au point une intelligence artificielle qualifiée de « psychopathe ». Leur objectif : sensibiliser aux dangers possibles du « deep learning » et expliquer au grand public comment fonctionnent ces algorithmes.

Quand vos pires craintes, incarnées par les robots tueurs des films de votre enfance, prennent subrepticement une tournure un chouïa plus réelle et concrète, vous ne pouvez  vous empêcher d'esquisser un rictus d'angoisse... Il ne porte pas le nom – non équivoque - de Terminator, mais celui plus discret et passe-partout de « Norman », en référence au personnage du tueur psychopathe Norman Bates dans le film «Psychose» (1960), d’Alfred Hitchcock (à chacun ses démons et références cinématographiques). « Norman » est une intelligence artificielle dite psychopathe – rien que ça – développée par des chercheurs du prestigieux Massachusetts Institute of Technology (MIT). Contrairement à ce qu'on serait tenté d'imaginer, cette équipe de scientifiques ne joue pas aux apprentis sorciers. Et bien que leur « créature » donne froid dans le dos, elle servira une plus noble cause : « sensibiliser aux dangers possibles des IA ».

Exemples macabres

Pinar Yanardag, Manuel Cebrian et Iyad Rahwan du MIT expliquent en effet à l'AFP que lorsque « les gens disent que les algorithmes d’intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l’algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public », ajoutent-ils. Aussi, pour valider leur postulat, ils ont « nourri » - voire gavé - Norman uniquement « de courtes légendes décrivant des images de personnes en train de mourir trouvées sur la plateforme internet Reddit ». Comme pour évaluer l'état psychologique d'un patient, les chercheurs ont donc par la suite soumis ce « cher » Norman à un test du type Rorschach, au cours duquel il livre ses impressions à la découverte d'images de taches d'encre. Ces impressions sont ensuite comparées à celles d'une autre IA, « entraînée de façon traditionnelle ».

Les résultats sont édifiants, pour ne pas dire effrayants ! Quand l’IA traditionnelle voit «deux personnes debout l’une près de l’autre» ou encore «une personne en train de tenir un parapluie», Norman voit dans ces même taches d’encre «un homme qui saute d’une fenêtre» et «un homme tué par balles devant sa femme qui hurle» ! Et les exemples macabres abondent sur le site internet dédié créé par les trois chercheurs du MIT. « Le site propose aux internautes de faire eux aussi le test des taches d’encre et d’envoyer leurs réponses «pour aider Norman à se réparer» », soulignent les scientifiques, qui mettent l'accent sur les capacités d'apprentissage des IA. « Plus qu’une expérience réellement scientifique, Norman illustre les dangers de l’intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées pour l’entraîner ». Les chercheurs « espèrent susciter une prise de conscience du public ». Si les techniques sont innovantes et modernes, les débats sur l'influence de « l'éducation », le pouvoir et la responsabilité des « encadrants » est plus que jamais d'actualité.

 







Tech/Médias Voir tous les articles
Recherche


Les articles les plus lus

Buzz

Newsletter
Conformément à la loi 09-08, vous disposez d’un droit d’accès, de rectification et d’opposition au traitement de vos données personnelles.
Ce traitement a été autorisé par la CNDP sous le n° D-W-343/2017

*: champ obligatoire

En poursuivant votre navigation sur notre site internet, vous acceptez que des cookies soient placés sur votre terminal. Ces cookies sont utilisés pour faciliter votre navigation, vous proposer des offres adaptées et permettre l'élaboration de statistiques. Pour obtenir plus d'informations sur les cookies, vous pouvez consulter notre Notice légale