Deep Fake

Deep Fakes. De la caverne de Platon à la caverne médiatique.

Il était une fois, dans la ville d’Athènes, un homme qui narrait les discours philosophiques à qui voulait bien l’entendre. Cet homme se dénommait Platon: il était mu par le désir de connaître et de cheminer vers le bien et la sagesse. Pour illustrer cette quête de connaissance, Platon nous raconte alors l’histoire de l’allégorie de la caverne, où nos sens et le monde sensible nous trompent sur la réalité des choses et nous empêchent d’accéder aux Idées, au monde intelligible, stade supérieur de la connaissance.

Nous allons inviter Platon à nous raconter cette histoire, qui vieille de 2500 ans, n’a pas pris une ride. Avant de faire le lien entre la caverne de Platon et nos cavernes modernes, rappelons l’allégorie elle-même.

 

Platon et sa caverne

 

« – Coucou Platon! Tu pourrais nous rafraîchir la mémoire et nous raconter l’allégorie de la caverne ? Mais succinctement s’il te plaît.

« – Avec plaisir. Alors imaginez-vous des hommes dans une caverne qui regardent un mur, sur lequel ils voient des ombres. Il sont absorbés par ces images, si bien qu’ils pensent que ces images sont la vérité. Ils sont enchaînés littéralement, physiquement et mentalement à ce qui est projeté sur ces murs.

 

 

« Un beau jour de printemps, l’un d’eux est libéré de ses chaînes. Personne ne sait comment il a été délivré, mais malgré l’aubaine de ne plus être assouvi, il le vivait comme une contrainte. Libérer notre protagoniste de sa servitude vis-à-vis des  images projetées dans la caverne, sans son consentement, voilà le décor planté.

« On le tire vers la sortie ! Et dehors, une lumière éclatante aveugle notre homme. Subjugué, il s’aperçoit que ce qu’il voit est différent de ce qu’il voyait dans la caverne où étaient projetées des ombres : enfin il voit la réalité des choses qui baignent dans la lumière du soleil ! Il lui est difficile de considérer que ces nouveaux objets représentent une réalité plus vraie que celle perçue dans la caverne. Après maintes résistances et une gymnastique de l’esprit douloureuse, il fut forcé de constater que ce qu’il voyait auparavant n’était que des images de la vérité. C’est un choc puissant pour lui, toutes ses illusions tombent à l’eau.

Le pauvre essaye de faire sortir ses acolytes de la caverne, mais manque de pot, ils étaient ivres d’ignorance et de vin et finirent par se moquer de celui-ci; seul contre tous, ce sont ses vérités à lui qui paraissent des sornettes et il se trouve bien incapable de les convaincre.

Lui qui était aveuglé par la lumière peine désormais à s’accoutumer à la faible luminosité de la caverne, aux ombres projetées, et passe pour un idiot aux yeux des autres. Il demeurait seul dans sa connaissance, pendant que les autres vivaient en communauté dans leur ignorance. »

Triste histoire quand même ! Platon nous révèle notre ignorance par les illusions qui sont projetées sur un mur. Nous pensons avoir évolué car nos connaissances ont évolué (connaissances sur le monde physique et les explications scientifiques sur l’univers). Certes nos connaissance scientifiques ont évolué, mais qu’en est-il de notre rapport à la vérité? De nos jours le mur, c’est l’écran. Et sur nos écrans il y a beaucoup d’illusions. L’une d’entre elles est ce qu’on appelle « le deep fake« .

 

C’est quoi un deep fake ? 

 

Le deep fake, c’est une vidéo qui donne l’illusion qu’une personne est filmée, avec un discours qui n’est pas le sien. Ça a commencé avec des célébrités : on a plaqué un visage célèbre sur un autre lambda, pour donner l’illusion que cette célébrité est filmée. En somme, les deep fakes sont des vidéos de ventriloques, sans la peluche et criantes de vérité. Une intelligence artificielle extrêmement bien ficelée et qui est en voie de développement encore aujourd’hui. Imaginez-vous revoir une vidéo de vous que vous n’avez jamais enregistré. Personne ne vous croirait si vous l’expliquiez que c’est faux, car l’illusion est parfaite.

Le réalisme est tel qu’il est difficile pour un œil non aguerri de différencier une vidéo originale d’un deep fake, même si quelques signes sont encore décelables, notamment sur les mouvements de bouche ou des yeux, qui sont les plus difficiles à reproduire avec fidélité. Emma Watson, Katy Perry, Taylor Swift ou Scarlett Johansson ont été victimes de deep fakes sur internet, mais aussi Mauricio Macri qui a été remplacé par Adolf Hitler, et Angela Merkel par Donald Trump. Exemple frappant d’illusion: On reçoit sur un plateau des célébrités: Tom Cruise, Robert Downey jr, et George Lucas et Mark Hamill. Sauf que les acteurs ne sont pas sur le plateau télé :

La technologie aujourd’hui a d’ailleurs beaucoup évolué puisqu’on est en mesure de reproduire les voix à partir d’une vidéo tournée en direct grâce à l’intelligence artificielle du deep learning.

 

Et ça pose problème ? C’est pour rigoler !

 

Quand il s’agit de se faire passer pour un super danseur alors qu’on est raide comme un piquet, ce n’est pas très grave. Mais dans l’hypothèse  que cette technologie puisse être utilisée à des fins de guerre politicienne et de manipulation de la population, ou de propagande idéologique, ça commence à devenir embêtant ! Car en effet, cette technologie n’est pas réservée aux surdoués en informatique, mais est à la portée de n’importe qui disposant d’un logiciel Fake APP, en suivant un bon tutoriel sur Youtube. Et la technologie se développe maintenant sur smartphone.

Il y a fort à parier qu’on aura du mal à différencier le vrai du faux (un nouveau piège à déjouer, en somme) dans ce que l’on visionne sur internet, sachant que la pratique qui consiste à sourcer et à vérifier la véracité des propos énoncés n’est pas un réflexe particulièrement répandu. Certaines théories du complot ont le vent en poupe, notamment celle de la terre plate. Selon un article du National Geographic, 1 français sur 10 pense que la Terre est plate, soit 9% des français : ce qui montre que le lien entre l’allégorie de la caverne et notre époque est fort. l’esprit critique a toujours du mal à trouver une place prépondérante dans la société, et ce, malgré nos connaissances plus grandes.. Nos procédés de connaissance rationnels et mathématiques ne parviennent pas à convaincre au moins 9% de la population.

Avec les deep fakes, et la technologie de l’image, notre rapport au savoir et à la connaissance s’en trouvera nécessairement modifié. L’impact de l’image prend une place prépondérante dans nos sociétés puisqu’elle nous suit partout avec les smartphones. Lorsqu’on veut obtenir une information, nous allons la chercher sur Google sans nous laisser la chance de remettre en question cette information. Nous trouvons ce que nous cherchons, et nous ne cherchons pas une contre information. Donc si ce que nous trouvons semble réel et vrai, pourquoi le remettre en question ? L’accessibilité de cette technologie est donc effrayante et pourrait devenir un enjeu de pouvoir en contrôlant le savoir.

Platon lui même différencie l’Idée d’une chose et son image : une table dans le monde sensible et une Idée de la table diffèrent. L’Idée de la table est ce qui englobe toutes les tables, en ce sens elle est un niveau supérieur de la connaissance. En somme, c’est la conceptualisation : le concept de table me donne accès à la connaissance véritable, plus que les tables que je vois dans le monde sensible. Alors si les images de Platon sont représentées par les images d’aujourd’hui sur internet et les écrans, on voit que l’accès à la connaissance est fragilisé.

Si aujourd’hui nous voyions des deep fakes, ça ressemblerait à la caverne de Platon. Des images, des illusions, qui semblent réelles. Mais la menace de l’illusion dépasse le deep fake. Nous sommes entourés d’écrans et de plus en plus, l’intelligence artificielle intègre nos vies. Les algorithmes de Facebook vont notamment dans ce sens: ils nous donnent à voir ce qui cible nos centres d’intérêt, quitte à marteler plusieurs fois la même information jusqu’à ce qu’on clique. Notre point de vue est biaisé par l’intelligence artificielle, et nous conforte dans ce que nous pensons, nous donnant l’impression de savoir, ce qui flatte notre égo. Cela nous rend heureux de croire que nous savons… Mais à quel prix ?

Je me suis demandée ce qu’aurait dit Platon de ce petit gadget technologique. Lui qui a écrit l’allégorie de la caverne, et qui pose le rapport qu’ont les humains avec la vérité et le savoir, lui qui place l’homme dans l’ignorance et le philosophe dans l’accès au savoir vrai. Que nous dirait-il si on parlait des deep fakes au resto, entre amis, un samedi soir ?

 

L’allégorie de la caverne en 2020.

 

«Imagine toi un homme, Bernard, confiné chez lui, n’ayant pour moyen de communication avec l’extérieur que son écran.

Pour s’éclairer, un petit feu de bois qui crépite chez lui et quelques appliques créant une atmosphère douillette et chaleureuse, mais peu illuminée. Bernard mène sa vie tranquillement. Il regarde sa petite télé sur son écran digital acheté à crédit et connecté à internet. Ce qu’il ignore c’est que dans l’ombre, il y a des petits farceurs qui s’amusent à pirater et bidouiller les vidéos sur internet. Ils envoient des images de choses et d’autres, et notre Bernard croit que «si ça passe à la télé, bah c’est qu’c’est vrai bon Dieu ! ». Et puis tout le monde autour de lui voit la même chose sur internet donc c’est bon, il est dans le vrai.

Un beau jour, quelqu’un qui, pris par le remord, la culpabilité et une envie de sauver cet esprit du néant, toqua à sa porte et lui dit :

«Viens avec moi j’ai un truc à te montrer, prend tes lunettes de soleil par contre, ça va brûler. »

Bien que le confinement lui faisait craindre une sortie prématurée, Bernard prépare donc son sac, ses clés, tout content de faire une petite balade. Ça faisait longtemps qu’il n’était pas sorti et la perspective de se faire un nouveau copain avec qui faire griller une bonne côte de boeuf le week-end le rendait joyeux ! Gai comme un pinson et pris dans ses rêves, il part précipitamment tentant de rattraper son ami. Dans cette hâte ses lunettes de soleil tombent, ce qui aura une conséquence fatale ! Il sort de chez lui et là ça brûle, ça fait mal. Une douleur atroce s’empare de lui. Il a mal à la tête, a des sueurs. Il tente d’ouvrir les yeux mais ce qu’il voit le fait souffrir. Puis, il commence à s’accoutumer à cette nouvelle luminosité qui lui brûlait la rétine, et commença à voir des choses… il y avait planté là, au milieu d’un champs, un immense écran qui diffusait les mêmes vidéos avec des voix  identiques, mais elles ne racontaient pas la même chose que ce qu’il voyait à l’écran: une terre ronde et bleu dans l’immensité d’un univers noir, la terre n’est pas plate, ni portée par une tortue. Impossible d’y croire, il voulait se réveiller, ce n’était qu’un cauchemar. Il se pinçait mais rien n’y faisait: il arrive dans un immense studio d’enregistrement, avec fond vert, capteurs sur les visages et les membres de corps, des acteurs.

Des écrans par dizaines créaient des vidéos à partir de rien, seulement grâce à de l’intelligence artificielle et quelques outils technologiques. Rien n’était vrai, tout n’était qu’illusion.

Notre grand sauveur, voyant la perplexité se lire sur le visage de Bernard, lui explique alors que dans la grotte il y a des petits malins qui truquent tout, qu’ils agissent en réseau, et que ça fait pas mal de temps qu’il vit dans le mensonge, ainsi que tous ses voisins … pourtant il était persuadé de voir la vérité, si communément partagée de tous sur les réseaux sociaux et à la télévision.

La vérité et les images de la grotte se ressemblent en tout point, mais elles ne disent pas la même chose ! Et ça change tout !

Lui qui croyait tout ce qu’il entendait et voyait sur son écran se sentit bien mal à l’aise quand il lut dans les ouvrages scientifiques le fonctionnement des technologies… Il prit un Doliprane, car la douleur était trop intense, au milieu d’un silence malaisant qui venait de s’installer…

Il discute longuement avec les personnes présentes, et va de désillusions en désillusions. Et en même temps que ça lui fait mal, ça lui fait du bien et donne un sens à son existence :

« J’ai eu la chance d’être sauvé de l’erreur, du faux, du reflet des choses, et j’ai vu les choses elles-mêmes telles qu’elles sont. Il faut que je le dise à tout le monde, il faut que le mensonge prenne fin une bonne fois pour toute. »

Alors il fit le tour de ses voisins avec sa cape de vérité sur le dos, en leur disant que les écrans étaient trompeurs, et qu’il valait mieux vérifier les sources de ce qu’ils voyaient… et tout le monde lui rit au nez :

« Arrête avec ton costume de super héros des temps modernes. Tu me dis que la terre est ronde, mais la science ça fait belle lurette que ça ne fait pas tout ! Si la science avait raison, je marcherais la tête à l’envers et mon verre de bière se viderait dans le ciel. Alors la terre elle est plate : les frères Bogdanov eux-mêmes l’ont dit, regarde cette vidéo ! ». Le deep fake avait frappé les célèbres frères qui désormais se trouvaient être au centre de fausses théories.

Dépité, Bernard prit un abonnement chez Ray-Ban, car il se doutait que la douleur allait durer et s’installer longtemps. Mais il préférait avoir mal aux yeux que vivre ignorant, et décida de commencer à lire des livres, à sourcer les articles et les vidéos d’internet, à développer son esprit critique, et à faire preuve de modestie.

Parfois il rendait visite à ses anciens copains histoire de casser la croûte, car tout seul on ne vit pas heureux.

« Alors Bernard, tu sais plein de trucs maintenant? Qu’est ce que tu vas nous raconter ce soir ?

– Ce soir j’aimerais me détendre donc je ne vais rien vous apprendre ; de toute façon pour transmettre un savoir il faut quelqu’un qui accepte de le recevoir. Et puis, comme le dit un ami que j’affectionne beaucoup:  « je ne sais qu’une chose,  c’est que je ne sais rien », Socrate. ». Il était entouré de rires de ses copains. Mais désormais, les images étaient pour lui le moyen de développer son esprit critique, un entraînement en temps réel pour déceler le vrai du faux. Sa vue se fit plus précise.

 

Solution

 

La solution la plus simple encore : la modestie, celle de Socrate qui sait qu’il ne sait rien. Et je rajouterais, la patience de sourcer, le courage de lire nos contradicteurs. Il serait intéressant de questionner les conditions de possibilité d’existence de l’esprit critique dans nos sociétés où le temps file à vive allure, où le temps de réfléchir se fait de plus en plus rare, et où notre besoin de divertissement se fait de plus en plus pressant. L’éducation est probablement la meilleure arme que nous possédons, et il est urgent de nous la procurer.

La philosophie semble être une solution pour remédier au manque d’esprit critique et à la crédulité, pour peu que ce soit un apprentissage rigoureux et méthodique qui commencerait dès le plus jeune âge, et qui devienne une pratique généralisée. Il est plus qu’urgent de travailler le discernement et la prise de recul sur ce qu’on voit, lit ou entend. Faire de la philosophie, c’est aussi avoir cette posture : conserver le regard curieux d’un enfant, désirer connaître et non connaître, et pas seulement lire du Platon. Lire des textes philosophiques est une façon de muscler sa pensée. Mais pour développer l’esprit critique il faut pratiquer la philosophie : une gymnastique de l’esprit pour assouplir sa pensée et élargir notre rapport à la vérité.

Un article par Nadia Thuilliers Toutes ses publications

2 commentaires pour “Deep Fakes. De la caverne de Platon à la caverne médiatique.

  1. Excellent . Juste le concept , le mot, de sécurité présent dans cette allégorie bien que n’étant n ‘est pas écrit meme si sous entendu (la caverne , le refuge etc..) associée a la.citation… jefferson ..qui sacrfie liberté pour sécurité ne merite ni l’un ni l’autre..et du coup permetrait , pour poursuivre le raisonement, de répondre a la question « qui sont ces zombies masqués autour de moi « .

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Articles similaires

Commencez à saisir votre recherche ci-dessus et pressez Entrée pour rechercher. ESC pour annuler.

Retour en haut