Comment introduire de l'éthique dans la recherche en Intelligence Artificielle

Publié par Aude Grezy, le 5 février 2020   760

Xl speculative 800x600  1

Intelligence Artificielle : Ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence. Voilà la définition made in Wikipédia.

Cette définition est clairement aussi flou que l'est le terme d'intelligence. Pourtant, ces objets bourrés d'IA apparaissent autour de nous, et sans pouvoir définir l'IA, elle n'en est pas moins présente. La semaine dernière on vous clamait encore qu'une IA avait prédit l'épidémie du coronavirus bien avant les agences en charge de l'épidémiologie. Que penser de cette techno "magique" ?

Le mois dernier a eu lien à Vancouver (Canada) une des plus grosses conférences mondiale sur l’Intelligence Artificielle (IA) : Conference on Neural Information Processing Systems. Cette rencontre annuelle avait cette année comme thématique principale : l’éthique. 

L'éthique de l'IA devient un domaine d'étude à part entière, bien qu'il soit totalement transversal et multidisciplinaire. Les questions de l'IA sont sans fin, en voilà quelques unes : Le remplacement des humains notamment à des métiers de soins ; Doit-on inculquer de la morale aux machines, où doit-on reproduire la part de sombre de l'être humain ; Qui est responsable en cas d'accident par une IA, par exemple avec une voiture autonome, une IA sera-t-elle responsable pénalement ; Les robots "ressentiront-ils des émotions", doivent-ils avoir des droits ? Mais aussi des problématiques de transparence (car le deep learning produit rapidement une boite noire y compris pour son concepteur)...

Ceci est à tel point qu'à l'université de Stanford, les futurs ingénieurs suivent aussi des cours d'"éthique", afin de questionner leurs choix. 

 Dans une vidéo du journal Le Monde, une journaliste suggère trois façon d'intégrer de l'éthique dans le développement de l'IA :

• Créer des technologies plus lisibles et traçables (Pour lutter contre le manque de transparence et la perte de contrôle) ;
• Former les ingénieurs à l'éthique (comme c'est le cas à Standford) ;
• Fixer un cadre légal.

Je me permettrais de lui suggérer une piste supplémentaire :
Pourquoi toujours penser l'IA de façon rationnelle, et pas avec de l'imaginaire ? Ma solution bonus pour injecter de l'éthique à l'IA : faire travailler ensemble des scientifiques, et des artistes.

Puisque ni vous ni moi n’avons à priori la chance d'avoir été invité au congrès de Vancouver, je vous ai cherché un événement made in Grenoble. Et attention aux passionnés de sciences, ouvrez grand vos chakras, là où je vous emmène, les conférences ne traitent pas que d'équations, mais aussi d’imaginaire

J'ai donc pré-visité pour vous le salon Experimenta, qui aura lieu du 13 au 15 février, pour vous et en voici quelques pépites :

* L'artiste Filipe Vilas-Boas, a travaillé avec un ingénieur en robotique (Marc Olasek), et le chef de service Innov'Lab (Bertrand Manuel). Ensemble ils vous convie à découvrir un robot, puni..... 

THE PUNISHMENT

Ce robot, sanctionné pour un crime qu'il a (ou non) déjà commis... On aurait bien envie de ressentir de l"empathie pour cette "pauvre" machine, qui apprend le bien et le mal dans les souffrances d'une punition d'école (pour robot ?)...

Cette oeuvre, qui fait immédiatement écho aux fameuses règles d'Asimov, je l'ai trouvé touchante, mais elle m'a surtout laissé méditative et plein de questions. Si vous allez voir cette oeuvre, vous questionnerez j'en suis sure, comment un artiste, à travers une narration ou un dispositif peut donner à "ressentir" une question, pourtant bien scientifique...

Deuxième oeuvre : Thierry Fournier, artiste plasticien, vous invite à vous détendre en admirant une plage, surveillée par une IA... Qui s'avère être dépressive.

PENSER VOIR

 Là aussi, si légèrement décalé scientifiquement direz-vous peut-être, il s'agit avant tout de "ressentir". Et vous verrez comment ces émotions vous guideront vers un questionnement qu'un raisonnement pragmatique n'aurait peut-être pas chez vous généré, ou différemment...

L'Art et la Science : Pourquoi mêler ces deux mondes, effet de mode "disruptif" ?  Et bien pour défendre l'idée que la technologie, pour être bénéfique à l'Homme, n'a pas seulement besoin d'être développée dans un laboratoire. Elle a aussi besoin d'être imaginée pour notre monde. Elle a besoin d'être pensée, et d'être rêvée...    

Le salon étant assez immense, pour le reste je vous laisse découvrir. Y sont exposés en libre accès, des œuvres, des dispositifs et des étapes de travail de projets Arts - Sciences, dont beaucoup en collaboration avec des chercheurs Grenoblois. En tout cas, scientifiques et passionnés de sciences, j'espère que vous poserez un nouveau regard sur le rôle que peut jouer un artiste pour vous faire ressentir, et repenser les sciences, notamment pour faire avancer l'éthique en intelligence artificielle...