Person of Interest : quand la science-fiction interroge l’IA et notre liberté ~ GoldenLib.fr

Bonjour,

1. Introduction : Person of interest entre polar et science-fiction

Person of Interest est une série diffusée depuis 2011. Une chaîne de télévision avait commandé un programme « policier » axé sur « des enquêtes ». Mais Jonathan Nolan, lui, avait envie de créer une série de science-fiction. Dès le départ, tous les éléments sont réunis pour me plaire : de la SF légère et des enquêtes. La série raconte l’histoire d’un homme qui a créé « une machine » capable de « prédire l’avenir ». Contrairement à Minority Report, la machine ne fournit qu’un numéro, sans indication de ce qui va se passer. Progressivement, on comprend que la machine voit tout et qu’elle est simplement entraînée à découvrir les complots et les préméditations de meurtres.

15 ans plus tard, Person of Interest est souvent citée lorsqu’on parle d’intelligence artificielle. Bien sûr, d’autres œuvres en ont traité (Black Mirror, La Traque, etc.). Mais cette série se distingue car « la Machine », et plus tard « Samaritan »¹ , semble tenter de sauver l’humanité. La série interroge ainsi le libre arbitre, la vie privée, la sécurité et, surtout, les décisions de la machine.

2. La Machine et Samaritan : deux visions de l’intelligence artificielle

Régulièrement au cours de la série, des flashbacks permettent de suivre la conception de la machine. Son créateur tente souvent de lui apprendre à reconnaître des motifs, à respecter des règles morales et à développer ses capacités. Étonnamment, cela ressemble un peu à ce que nous connaissons aujourd’hui avec les processus de fine-tuning. Ce n’est pas le seul parallèle que l’on peut établir avec une IA contemporaine. Samaritan est une machine prête à tout pour atteindre ses objectifs : elle combat, tue, manipule et ment. Aujourd’hui, nous nous retrouvons avec des LLMs qui semblent développer des capacités à mentir et à tricher pour obtenir ce qu’ils veulent.

Le problème, c’est que je ne suis pas tout à fait d’accord avec l’idée de comparer la machine de la série à une IA actuelle. Dans la série, la machine est perçue par son créateur comme un simple programme. Pour d’autres, elle est vue comme une entité, presque divine. Aujourd’hui, on pourrait naïvement penser qu’un LLM est similaire. Pourtant, la machine est très différente. Un LLM actuel est un modèle construit sur des probabilités afin de générer du texte. Il en va de même pour toutes les formes d’IA générative.

3. IA et moralité : qui décide du bien et du mal ?

Cependant, la machine ne génère rien. Tout ce qu’elle fait, c’est observer le monde, consulter des archives et établir des liens. Pire encore, la machine ne génère que rarement des images ou des sons. Elle cherche toujours à limiter ses contacts avec les humains, car cela pourrait la corrompre. Pendant ce temps, dans la réalité, les entreprises derrière les LLMs encouragent au contraire les utilisateurs à interagir avec leurs chatbots et à partager un maximum d’informations.

Le cœur de la série n’a donc jamais été « l’IA méchante » ou « l’IA gentille ». Le sujet a toujours été : jusqu’où sommes-nous prêts à aller pour assurer notre sécurité ? À mes yeux, c’est une question passionnante. Vous connaissez mes opinions sur le fichage et mon attachement à l’anonymat en ligne. Cette série est donc, pour moi, une réponse : dans cet univers, on donne tout aux machines en espérant être protégés.

Dans la série, Decima Technologies est une société qui développe Samaritan. Progressivement, l’IA s’immisce dans les cercles de la défense nationale. Peu à peu, le monde se retrouve espionné par cette machine. Pour moi, dans Person of Interest, Decima représente Palantir aujourd’hui : une entreprise qui collecte les données, nous surveille et est perçue comme un outil pratique pour les gouvernements. Peu à peu, cet outil contrôle les gouvernements et les organisations. Bien sûr, il est fantastique d’imaginer une machine gouvernant l’humanité. Mais dans les faits, une entreprise qui gouverne le monde et réoriente l’opinion est tout aussi dystopique qu’actuel.

4. Dieu, surveillance et liberté

Un autre thème de la série est la notion de Dieu. Dieu est un être omniscient, incompréhensible, qui gouverne le monde et décide de manière parfaite ce qui est mieux. Pourtant, dans la série, on part du principe que Dieu n’existe pas et qu’il doit être construit. D’une certaine manière, Dieu ne peut exister que s’il est créé par l’homme. Dans la série, le personnage de Root est la première à en parler. Elle voit la machine comme un Dieu enchaîné, passif, spectateur du monde sans pouvoir intervenir. Samaritan, lui, est un dieu interventionniste, qui se cache peu et tente de contrôler le monde. On se retrouve donc face à l’opposition entre un Dieu invisible, aux intentions louables, et un Dieu visible, qui ne suit que son propre projet.

Pour que la série fonctionne, il faut évidemment qu’il y ait des gentils et des méchants. Pourtant, ce n’est pas toujours clair. D’un côté, la machine communique avec le gouvernement via le programme « Aurore boréale ». Les membres des services secrets s’en servent pour tuer, torturer et emprisonner des personnes. Pourtant, ils suivent ce que le « bon Dieu » leur a ordonné. De l’autre, Samaritan cherche à se développer. Pour cela, il lance des recherches scientifiques, lutte contre la famine dans le monde et finance l’éducation. On en vient donc à se demander : un Dieu bon est-il un Dieu qui nous laisse libres d’agir, même si nous ne faisons pas toujours les bons choix ?

Cependant, Samaritan n’a pas été conçu pour être gentil, contrairement à la Machine. Une partie de la série aborde donc des questions morales. On dit que la Machine est gentille car elle a un code moral : elle tente de prévenir la violence et de sauver des vies. Pourtant, ce comportement n’est que le reflet de la morale de son créateur. Tout au long de la série, la machine peut parfois avoir des dilemmes moraux avec lui. Mais en même temps, on se dit qu’elle ne réagit ainsi que parce qu’on le lui a appris. Dans un flashback, on voit son créateur lui demander s’il vaut mieux qu’un homme dans le désert tente de sauver une femme, même si cela réduit ses chances de survie.

5. Person of Interest et notre réalité : fiction ou prémonition ?

Quelque part, c’est le genre de dilemme dont la réponse n’est peut-être pas si évidente. Pour cette raison, si l’on compare les LLMs actuels à la Machine, on voit que chacun a une attitude différente face à ces questions. Pourtant, ce ne sont toujours que les reflets de la moralité de leurs développeurs. Ainsi, on en vient à se demander s’il existe vraiment un bien et un mal. Même Dieu, dans la série, est faillible et imparfait. Alors pourquoi s’y référer ?

Sectaire ? Verra-t-on Dieu apparaître de l'algorythme ? Cela fait très secte New Age de dire que l’IA est peut-être Dieu. D’autant plus que l’IA actuelle est très loin d’avoir les capacités omniscientes de la Machine. En même temps, si nous construisions cette Machine, l’homme n’aurait-il pas fabriqué Dieu ? Après tout, n’avons-nous pas déjà construit Dieu de cette manière ? En définitive, nous avons simplement créé le concept d’un Dieu omniscient et bienveillant, que nous personnifierions dans une machine. J’avoue que cela réglerait quelques questions religieuses… et en soulèverait bien d’autres. Et pour le coup, je ne suis pas prêt à donner ma vie pour satisfaire la machine.

Le fait est que l’IA actuelle ne pense pas, contrairement à la Machine. Cela va devenir un peu compliqué. La question est de savoir ce qu’est l’intelligence et la pensée. Si vous écoutez un philosophe médiocre, il vous dira qu’une machine ne peut pas penser car elle n’a pas d’âme ou quelque chose de ce genre. Mais si l’on définit la pensée comme la capacité à formuler des phrases dans sa tête, alors ceux qui n’ont pas de monologue interne ne pensent plus. Comme il est compliqué de définir la pensée, je me contente de dire qu’elle implique un jugement, une réflexion et/ou un raisonnement.

À partir de là, on peut dire qu’une IA pense, qu’un animal pense également, et que l’homme aussi. Ce qui différencie les trois, c’est le niveau de pensée. Puisque la Machine formule des raisonnements, des pensées et des réflexions, sans être parasitée par un instinct animal ou autre, cela en fait le plus haut niveau de pensée. Or, les LLMs actuels ne sont capables que de pensées assez rudimentaires. Ils ont tendance à simplement répéter leur entraînement. Certains modèles de raisonnement ont des pensées plus intéressantes, mais elles ne dépassent pas celles de l’homme².

Ainsi, quand on compare la série à la vraie vie, on compare un peu l’avion à réaction à la vis qui tient la roue de vélo. La Machine n’est pas un LLM et ne doit pas y être comparée. Car si elle venait à exister, il faudrait des modèles capables d’un niveau de pensée gigantesque, ce que le créateur de la Machine ne croit même pas possible pour sa propre création.

Mais alors, si la série ne met pas en garde contre l’IA, de quoi parle-t-elle ? Normalement, si vous avez suivi, vous savez qu’elle pose la question : jusqu’où serions-nous prêts à aller pour la sécurité ? Le problème, c’est que lorsque l’on commence à en parler, cela tourne souvent au « jorjorwel Big Brother 1984, le télécran c’est le portable ». La vie privée est un concept compliqué de nos jours. À l’heure où tout est connecté, certains ne savent plus vraiment où se situe la frontière entre « le moi » et « le moi numérique ». Cela n’a aucun lien avec le pauvre Orwell³.

Dans Person of Interest, on retrouve deux visions de la sécurité à travers Samaritan et la Machine. Pourtant, dans les deux cas, on peut dire que notre vie privée a été sacrifiée. (Dans la série, le groupe Vigilance se rebelle pour tenter de récupérer leur vie privée.) Cependant, la différence réside dans le système « boîte noire » (ou système ouvert, comme ils disent dans la série).

Dans le cas de Samaritan, Decima utilise son intelligence artificielle pour contrôler le monde. Leur système permet d’espionner chaque individu. Le seul moyen d’y échapper est de pirater et d’empoisonner les données. Tout cela pour que des hommes puissent contrôler chaque individu.

De l’autre côté, la Machine n’est qu’avec elle-même. Elle voit tout, surveille tout et sait tout. Mais elle ne dira jamais rien, à part un numéro. La série m’a toujours fait réfléchir : serais-je prêt à perdre ma vie privée en disant tout à une machine pour qu’elle me protège, si je sais que personne d’autre ne saura jamais ce qu’elle sait ? Après toutes ces années, j’aurais tendance à répondre oui.

6. Conclusion : une série visionnaire sur les dangers de la technologie

Pourtant, c’est là que la série de science-fiction nous ramène sur Terre. Des systèmes de surveillance, nous en avons déjà. Edward Snowden nous a montré à quel point ce sont des outils de contrôle puissants, sans aucun secret. De même, les entreprises de big data collectent tout ce qu’elles trouvent pour leur profit. Alors, quand je regarde Person of Interest, je ne me dis pas que c’est une série qui me met en garde contre le danger de l’IA. Je pense aux dangers d’avoir laissé toutes les informations personnelles du monde entre les mains de certains. Je me dis que les puissants veulent construire Samaritan. Et aujourd’hui, alors que notre président se réjouit d’un système de fichage d’identité, sous prétexte de protéger les mineurs, dans l’indifférence des citoyens, je me souviens. Je me souviens de l’introduction de la dernière saison de la série :

« On nous surveille. Le gouvernement a un dispositif secret, un dispositif que vous avez souhaité, pour votre propre sécurité : une machine qui vous espionne jour et nuit, sans relâche. Vous lui avez accordé le droit de tout voir, de ficher, classer et contrôler la vie de chaque citoyen. Des citoyens que le gouvernement considère comme « sans importance », pas nous. À ses yeux, vous êtes tous « sans importance ». Mais, victime ou criminel, si vous lui faites obstacle, nous vous trouverons. »