Un couple d’amis m’a conseillé le film Sully. Je l’ai récemment visionné et j’ai beaucoup aimé. Au-delà des événements réels, le film nous interpelle et nous interroge sur l’humanité et n’est pas sans rappeler la trilogie Matrix, qui interpellait également sur le même sujet, notamment sur la limite entre l’homme et la machine et, au second plan, sur la notion de libre arbitre.
Le combat de l’homme contre la machine et de l’humanité est un sujet récurrent aussi vieux que la science fiction et, même bien avant cela, lorsque Mary Shelley posait la question dans son fameux Frankenstein. Au travers de cette interrogation transpire l’intérêt pour l’homme de comprendre sa vraie nature et de savoir qui il est, qu’est-ce qui fait de lui un humain et, à partir de ses composantes, qu’est-ce qui fait qu’à un moment donné, le tout est supérieur à la somme des parties ?
Néo et le libre arbitre
Dans Matrix, lorsque Néo se retrouve face à l’Architecte, ce dernier lui explique que la Matrice a été conçue comme une système de domination et de contrôle. Les machines utilisent ce qui rend les humains humains à leur insu pour les maintenir sous leur contrôle et éviter les débordements. Ce contrôle s’effectue au travers de leur sociabilité, leur tendance naturelle à s’entraider, de protéger les plus faibles et d’agir dans l’intérêt du plus grand nombre. Maximiser les chances du plus grand nombre, plus couramment appelé « utilitarisme », est une stratégie efficace mais qui repose sur une très grande fragilité : elle est prévisible.
En effet, il existe rarement plusieurs façons de maximiser la survie du plus grand nombre et les stratégies à appliquer sont généralement aisées à déterminer et calculer. Et cela, l’homme comme la machine, peut le déterminer assez facilement. Il ne s’agit que de l’algorithmique pure et simple, simulant et imaginant toutes les possibilités fondées sur la mécanique simple de la causalité. Cette prévisibilité est d’ailleurs exprimée et expliquée par le Mérovingien. Tout l’univers est prévisible, n’étant que le résultat d’actions et de réactions, de causes et d’effets.
Cette causalité est tellement prévisible qu’elle est le fondement même de la méthode scientifique dont la reproductibilité des événements permet de déduire les règles qui régissent notre univers. Ces dernières, une fois déchiffrées, permettent à leur tous de nous assurer que nous pourrons expliquer et prévoir le comportement de chaque composante de ce qui nous entoure.
Et ce détail n’a pas échappé aux machines qui l’utilisent contre les humains afin de les manipuler car ils savent qu’ils ne pourront pas faire autrement que de s’y soumettre s’ils veulent survivre.
Ainsi, tout au long de la trilogie, Néo fait toujours le choix le plus logique – et donc prévisible – de favoriser l’utilitarisme du plus grand nombre.
Fatalement, lorsqu’il se trouve devant l’Architecte, ce dernier lui propose deux choix possibles : une porte pour sauver ses amis et reprendre le combat contre les machines, recommençant ainsi un nouveau cycle et donc une nouvelle domination des machines qui n’ont pour d’autre but que de les occuper par des combats, des petites victoires pour leur donner l’espoir et les motiver à continuer de jouer. Ou bien de prendre la seconde porte, de sacrifier ses amis en tentant vainement de sauver la femme qu’il aime.
L’Architecte, en bonne machine qui ne raisonne que par des algorithmes, ne doute pas un seul instant que Néo fera le choix, une fois de plus, de l’utilitarisme, comme il l’a toujours fait.
Sauf que, contre toute attente, le héros fait le choix inverse, il fait le choix du cœur, prenant ainsi la décision la plus irrationnelle qui conduira très probablement à la mort de ses amis et la fin de la rébellion.
Cependant, par ce simple choix irrationnel et inconsidéré, Néo montre toute la différence entre l’homme et la machine, entre l’humanité et l’algorithmique car, si les humains sont irrationnels, c’est avant tout parce qu’ils sont humains et qu’ils sont capables de faire des choix imprévisibles car fondés sur le libre arbitre.
En faisant le choix de sauver la femme qu’il aime et de rompre avec la prévisibilité, Néo fait preuve de libre arbitre. Et ce libre arbitre fait de lui un homme libre, non soumis au diktat des machines qui comptent sur sa prévisibilité pour le soumettre et l’asservir.
Sully contre protocoles
Dans le film Sully, nous retrouvons la même interrogation au travers de la réplique « You are looking for human error. Then make it human. »
Par ses actions, le héros se retrouve sur le fil du rasoir. Le système s’oppose à lui afin de savoir s’il a bien respecté toutes les règles et toutes les procédures, tentant de vérifier et de démontrer qu’il a pris des risques inconsidérés en se posant sur l’eau alors qu’il aurait pu tenter une approche plus sûre aux aéroports voisins de La Guardia ou Teterboro.
Leur première intuition, confirmée par des simulations, repose sur le fait que jamais personne n’a réussi auparavant à poser un avion sur l’eau sans faire de victimes.
En reproduisant la situation dans des simulateurs, les chances de survie étaient plus importantes en tentant une approche sur les aéroports plutôt que sur l’Hudson. Et tout la logique des enquêteurs repose sur les protocoles.
Mais qu’est-ce qu’un protocole, si ce n’est qu’une méthode, un algorithme, pour s’assurer de la reproductibilité et la prévisibilité des événements ? En agissant toujours de la même façon, en effectuant toujours les mêmes actions au même moment, on obtient forcément les mêmes résultats. Et, à l’image de l’Architecte qui s’attendait à ce que Néo choisisse le chemin le plus facile et le plus simple, Sully a fait le choix déraisonnable de prendre le chemin le plus risqué et le moins prévisible.
IA et prévisibilité
La notion d’intelligence artificielle est auréolée de beaucoup de fantasmes et l’on confond souvent «intelligence artificielle» avec «humanité artificielle». Nous nous attendons à ce que les machines prennent des décisions humaines, alors qu’elles ne font que prendre des décisions algorithmiques, fondées sur motifs statistiques, de la prévisibilité, de la reproductibilité, dans le seul but de rendre les résultats plus efficaces et donc de servir l’utilitarisme.
Mais l’humain, n’est pas utilitariste. Il est humain.
Les intelligence artificielles sont formées à repérer des motifs. Plus on leur présente de motifs, plus elles sont performantes à les reconnaître. Lorsqu’on présente une radiographie à une IA chargée de trouver un cancer, elle ne fera qu’appliquer la reconnaissance de motifs, parce qu’elle l’a renforcé avec 2 millions d’autres motifs auparavant. Pourquoi voudrions-nous qu’elle trouve quelque chose de nouveau ?
Et plus nous lui présenterons de motifs, plus elle s’obstinera dans sa prévisibilité. La machine ne se lasse pas. Elle peut donc continuer inlassablement à faire son travail de la même façon, sans jamais sortir des sentiers battus… et c’est justement ce qu’on lui demande.
Donc, si on la mettait aux manettes de l’avion de Sully, dans les mêmes conditions – ou presque, tout dépend de la compréhension du mot « conditions », qui est justement le sujet du film – alors elle trouverait « La Guardia 50 % de chances de survie, Teterboro, 60 % de chances de survie, Hudson 0 % ».
Et elle tenterait l’un ou l’autre des deux aéroports, mettant de fait l’Hudson de côté tout simplement parce que personne n’a jamais réussi auparavant à poser un avion sur l’eau sans faire de victimes.
Et pourtant, Sully y est arrivé. Contre toute attente, contre toutes les statistiques du monde entier depuis le début de l’histoire de l’aviation, ce simple humain, irrationnel par ses actes, a réussi ce qu’aucune machine, aucun algorithme, aucun protocole n’avait jamais envisagé, prévu ou calculé. Et ça parait tellement surréaliste que les humains eux-mêmes n'y croient pas.
Sully lui-même ne l’avait pas prévu. Il l’a juste ressenti, en une fraction de seconde, 45 ans d’expérience et de réflexes ont pesé dans la balance, plus rapidement qu’aucune machine n’aurait pu le faire, et dans une intuition visionnaire aussi transparente que le cristal.
En expert du vol aéronautique, Sully n’ignorait pas les statistiques. Mais dans un moment de clairvoyance encore inexplicable pour le commun des mortels, il a compris que, lui, pourrait y arriver.
Irrationnel, fondement du vivant
Depuis qu’elle a été formalisée, la méthode scientifique a envahi le monde. Tout être vivant est fondamentalement un scientifique du quotidien. Rien n’est plus rassurant que la stabilité, afin de faire des prévisions grâce au principe physique inaltérable de la causalité. Si nous arrivons à prévoir alors nous arrivons à anticiper. Cette anticipation permet de gagner des précieuses secondes afin de s’adapter aux mieux aux événements et d’avoir le plus de chances de survie. De ce besoin naît notre dépendance à l’information. Plus nous aurons d’informations exactes et à jour, plus nous pourrons anticiper, prévoir et survivre.
Sauf que cette méthode ne fonctionne quand dans la stabilité. Nous ne pouvons prévoir par la prévisibilité que ce qui est statistiquement prévisible. Mais que se passerait-il si notre environnement se mettait à évoluer très lentement, imperceptiblement ?
De la prévisibilité naissent les habitudes et des habitudes, des réflexes. S’ils nous permettent de gagner du temps en court-circuitant la réflexion, ils court-circuitent notre conscience et se soustraient ainsi à notre jugement et notre sens de l’observation, jusqu’à en devenir contre-productif. Si quelque chose changeait imperceptiblement, nous ne pourrions pas le voir.
Or, si nous voulons rester en vie, nous devons prévoir et anticiper. Et le plus petit changement peu faire toute la différence.
Alors, pour vérifier que notre environnement est toujours aussi stable qu’attendu, nous devons le mettre à l’épreuve en sortant des sentiers battus et donc, de la prévisibilité. Notre comportement irrationnel n’est qu’une stratégie d’exploration pour rester alerte, tenter de nouvelles expériences qui peuvent éventuellement déboucher sur de nouvelles méthodes, plus efficaces, plus performantes et qui nous donneront alors un avantage sur nos adversaires. C’est en testant les limites en permanence que nous pourrons savoir jusqu’où nous pouvons aller et découvrir de nouvelles voies, de nouveaux chemins afin de prendre l’avantage sur les autres.
Notre lassitude à répéter encore et encore les mêmes gestes et de décider, d’un coup, d’en effectuer de nouveaux, pour voir, pour le fun, n’est qu’une méthode de plus pour sortir de la prévisibilité.
Notre curiosité à changer de chemin et en explorer de nouveaux est une stratégie pour nous pousser à sortir de la prévisibilité. Cette méthode d’exploration n’est pas nouvelle, elle est employée par la nature même depuis la nuit des temps.
La prévisibilité ne fonctionne que parce que notre environnement est stable. Or, ce qui est stable est généralement stagnant. Ce qui est stagnant finit par disparaître.
A contrario, ce qui est en mouvement est plus apte et plus prompte à s’adapter aux changements et à survivre.
Certes, le changement implique et impose une prise de risques. Le risque de se tromper, le risque d’échouer et, souvent associé, le risque de mourir. Celui qui n’essaie pas n’échoue pas, mais il ne réussi pas non plus.
Certes, d’un point de vue darwinien, Néo était aussi prévisible car en privilégiant l’amour à l’utilitarisme, il voulait se donner une chance – même infime – de sauver la femme qu’il aimait afin de fonder éventuellement une famille et de bâtir une lignée de descendants. L’utilitarisme n’aurait fait que donner l’avantage à ses adversaires et leur permnettre de fonder leur lignée grâce aux efforts et au courage de Néo, ce qui serait contre-productif. Ce comportement est stratégiquement prévisible. Mais ce qui ne l’était pas était le moment où il devait faire ce choix. Rien ne pouvait déterminer qu’il allait le faire à cet instant précis, surtout pas alors que ces amis avaient le plus besoin de lui.
Ce choix, cette bascule, cette ultime étincelle, ce sursaut d’orgueil, ce revirement et cette décision de mener révolte contre un système de domination s’est exprimé par son choix personnel et son libre arbitre à ce moment précis : faire le choix raisonnable et prévisible conduisant au maintien de la domination des hommes par les machines, ou bien un moment de révolte dans un ultime sursaut quasi-suicidaire et romantique.
Durant un bref instant, alors même que l’Architecte lui prédisait déjà une fin inéluctable, il fait le choix de tenter sa chance.
Les machines ne jouent pas dans la même catégorie
Devant une fin quasi inéluctable, Sully a entrevu une option dont personne ne pouvait prédire une issue favorable car toutes les expériences passées avaient donné une issue fatale. Tant d’autres avaient échoué. Mais aucun autre n’était lui. En faisant comme les autres, il n’aurait fatalement obtenu que le même résultat que les autres. En choisissant la voie la plus sûre et la plus prévisible, il n’aurait fait que choisir la stagnation au lieu du changement, un choix que la machine la plus idiote aurait effectué… parce qu’une machine ne peut pas se permettre de prendre des risques.
Prendre des risques, c’est risquer d’échouer. Or, nous construisons des machines pour faire mieux que nous, combler nos défauts. Si nous avions des machines aussi imparfaites que nous, à quoi bon utiliser des machines ? Des humains font parfaitement l’affaire et se contentent de moins.
A l’heure actuelle, même si la machine fait peur et que nous redoutons le point de singularité, rien n’indique qu’une machine pourra faire mieux que l’homme car rien n’indique qu’une machine sera aussi irrationnelle que l’homme.
Les machines ne sont pas construites pour être irrationnelles. Et le jour où elles le seront, elles seront si imprévisibles, qu’elles perdront tout intérêt. Elles ne jouent pas dans la même catégorie.
Dans le meilleur des cas, les machines se contenteront de faire des choses intelligentes, intelligibles, prévisibles et répétitives. Car c’est leur seule utilité.
En revanche, pour explorer de nouvelles voies, il faudra non pas de l’intelligence, mais de l’humanité. Et cette humanité reposera sur en grande partie sur l’irrationnel et le libre arbitre, ce petit moment durant lequel tout bascule et que nous décidons enfin de sortir de la voie facile et prévisible, pour construire son propre chemin, même s’il est fondé sur l’idée la plus idiote. Tellement idiote qu’elle en devient géniale. Ce moment où l’on décide de suivre sa propre voie, de jouer dans la cours des grands et où l’on déclare enfin : « Can we get serious now ? »
Après tout, réussir, ce n’est simplement qu’échouer avec panache !
Conclusion
Si l'intelligence artificielle gagne du terrain, l'humanité artificielle qui supplantera l'homme n'a pas encore apparu et ne représente pour l'instant pas un danger immédiat.
Au travers du questionnement sur le libre arbitre, la culture populaire nous interroge sur notre propre comportement et le danger que nous représentons pour nous-mêmes. Le danger n'est pas que la machine passe le point de singulaté, mais que nous choisissions le chemin le plus facile de la prévisibilité et du confort intellectuel en délaissant le libre arbitre au profit d'algorithmes, de procédures et de méthodes externalisées qui finissent pas échapper à notre volonté.
La vraie question n'est pas de savoir si la machine nous dominera, mais si nous abandonnerons ce qui fait notre humanité au profit de la machine.