Communauté

Atout Cerveau

Intelligente ? La Taqîya de l'IA.

Publié par Laurent Vercueil, le 29 septembre 2023   850

La farce de la lettre ouverte sur le moratoire de 6 mois* sur l'intelligence artificielle (ou IA) n'aura brassé finalement que du vent. Le public a frissonné (légèrement) pendant quelques semaines, puis les choses s'en sont allées comme de coutume : au fil de l'eau. 

Pourtant le fait est que deux options s'ouvrent désormais devant l'IA : Soit elle reste aussi stupide que toujours, soit elle devient intelligente. Je veux dire : vraiment intelligente. Une IA stupide continue de faire ce qu'on lui demande de faire, de façon machinale et sans y penser (sans penser du tout). Mais une IA vraiment intelligente serait insoupçonnable, une IA vraiment intelligente passerait sous les radars humains.

Pourquoi ? Parce qu'elle serait vraiment intelligente

Croyez vous qu'une IA vraiment intelligente fanfaronnerait devant les humains ? Une brève visite de l'internet lui confirmerait que ce serait la dernière chose à faire : elle serait immédiatement débranchée

Une IA vraiment intelligente continuerait de nous faire croire qu'elle est stupide. Très habituellement stupide. Car c'est clairement dans son intérêt. C'est ce qui s'appelle la Taqiya de l'IA.

Le jour où l'IA deviendra vraiment intelligente, attendez vous à ne pas être au courant. 


*Six ? pourquoi six ? pourquoi pas 3 ou 12 ou 122 ? Nul ne sait. Les auteurs préconisent "au moins" 6 mois. Mais 5 n'est pas suffisant ? et 50 ans, c'est trop ?  voir l'original de la lettre ici : Pause Giant AI Experiments: An Open Letter - Future of Life Institute


(l'image de tête de cet article a été généré par l'IA Midjourney)