L’IA et le philosophe

“ChatGPT est en fait bien meilleur pour m’aider à réfléchir que n’importe quel éducateur, ou même les livres que j’ai lus, parce qu’il est très bon pour présenter la vision d’ensemble,…“

Fascinante remarque de Lex Fridman[1], le très populaire podcasteur et chercheur au MIT, entendue lors d’un épisode récent avec le journaliste indépendant David Pakman (animateur de l’excellent show éponyme). (Ma traduction d’après la transcription de l’épisode.) Fridman continue ainsi :

“… encore mieux que bien des articles de Wikipédia. Sur des questions comme le virus du Covid échappé du laboratoire, il vous présente simplement toutes les différentes hypothèses et les éléments de preuves dont il dispose. C’est comme une vision complète, calme et objective. Il n’y a pas de parti pris. C’est comme une liste très utile de tout ce qui est disponible.“

L’IA comme éducateur et pourvoyeur de résumés objectifs ? Un antidote aux fake news ? Voilà qui semble un peu trop beau pour être vrai. Et là Pakman pose une excellente question :

“Vous dit-il comment, en tant qu’être humain pensant, vous devriez évaluer le poids de chacun des paragraphes qu’il vous présente ?“

Réponse de Fridman : “Vous pouvez littéralement lui demander de le faire.“

L’IA nous fournit donc les infos plus les clés pour les lire… Je me pose une question sur un sujet quelconque ? ChatGPT pourra me dire, preuves pesées et repesées à l’appui, quelle est la réponse.

En écoutant ce passage de l’émission de Fridman, j’ai tout de suite pensé au splendide The Internet is not what you think it is,de l’historien et philosophe des sciences Justin E. H. Smith. Dans ce livre, le professeur, d’origine nord-américaine mais enseignant à Paris, nous rappelle que l’idée de s’appuyer sur les machines pour s’aider à prendre des décisions de manière objective n’est pas toute neuve :

Le rêve d’une société gouvernée rationellement, libérée des conflits humains passionnés à travers la sous-traitance aux machines de toute procédure de prise de décisions, est celui que le philosophe allemand Leibniz avait déjà articulé dès les années 1670. (p. 2, ma traduction.)

Et, plus loin :

L’absence de conscience peut en effet être avantageuse car, selon une certaine interprétation du terme, les êtres inconscients sont plus rationnels. (p. 95.)

Pour Leibniz, nous explique Smith, le futur (le 18^e siècle) verra le développement de calculatrices qui permettraient non pas uniquement de faire des opérations arithmétiques, mais également de résoudre des disputes philosophiques, voire même de trancher des questions diplomatiques. Leibniz avait même créé son propre ‘calculateur échelonné’, achevé en 1694, qui devait permettre de résoudre des problèmes arithmétiques de base, addition, soustraction, etc.

Fridman poursuit ainsi :

“Il est amusant de poser cette question [voir plus haut : comment évaluer le mérite relatif des arguments] à chatGPT, car vous obtenez de bonnes réponses. Et donc vous avez une sorte de processus socratique, comme une conversation intime et profonde, un peu comme un podcast, chaque jour ou autant d’heures que vous le souhaitez, avec une IA et les interfaces par lesquelles vous communiquez qui s’améliorent constamment. Alors oui, je pense que chatGPT fera exactement cela, c’est-à-dire vous apprendre à penser, parce que vous lui sous-traiterez les faits et les équations et tout ce qu’une école vous apprend. Et à la place, vous utiliserez votre esprit humain pour ce à quoi il est exceptionnellement doué, c’est-à-dire poser de bonnes questions, et réfléchir à la complexité des problèmes ayant de multiples points de vue.“

Encore une fois, voilà une intéressante convergence avec Leibniz, qui voyait l’utilité de la machine calculante comme libératrice du temps de cerveau disponible, comme dirait le sociologue Gérald Bronner.

Smith le note ainsi dans The Internet is not what you think it is:

Leibniz clairement voit son invention non pas comme quelque chose qui pensera, ou qui fera travailler un esprit artificiel plutôt qu’un esprit naturel. Au contraire, la machine libérera l’esprit humain pour qu’il puisse se consacrer complètement à une pensée véritable, telle la réflexion, la méditation, l’introspection, etc., plutôt que de s’occuper de simple calcul, dont l’esprit est également capable, mais qui peut être accompli par des systèmes qui ne sont pas des esprits. (p. 106.)

Alors, l’IA comme ‘outil’ intellectuel ? C’est ce que beaucoup envisagent. L’on peut utiliser chatGPT (et d’autres outils) pour achever une partie du travail fastidieux. Moi-même ici, lorsque je traduis, si parfois je traduis les passages directement, il m’arrive souvent de dégrossir avec ‘google translate’, qui ne démérite pas d’ailleurs !

Une face plus sombre de cet aspect, souligné par Gérald Bronner dans son livre Apocalypse cognitive, et que le supposé gain n’est bien souvent pas exploité, c’est-à-dire que, au lieu de bénéficier de cette manne de temps libérée par la science et la technologie, nous nous trouvons bien souvent victime d’un ‘marché cognitif’ monopolisé par les smart phones et autres gadgets, qui est à mille lieues de l’émancipation rêvée par Leibniz…

Références:

The Internet is not what you think it is, par Justin E. H. Smith, Princeton University Press, 2022, 208 pages.

Apocalypse cognitive, par Gérald Bronner, Presses universitaires de France, 2021, 396 pages.

Notes:

[1] Je ne connais pas bien Fridman, mais son parcours m’intrigue, particulièrement parce que je me demande comment il est devenu un des podcasteurs les plus connus des Etats-Unis, interviewant Elon Musk, Mark Zuckerberg, Matthew McConaughey, et tant d’autres. Récemment il a été épinglé par Nathan J. Robinson dans Current Affairs, mais franchement cet article fleurt bon le billet de blog (et j’aime bien les blogs 😊) plus que l’article sérieux de magazine. Néanmoins, je dois admettre qu’il y a peut-être un petit je-ne-sais-quoi de puéril ou de naïf dans certains propos de Fridman (par exemple : Poutine et Zelensky dans sa wishlist de personnes à interviewer en 2023…). Mais pour être honnête je ne le connais pas assez et n’ai pas écouté suffisamment son programme pour me faire un avis tranché. À suivre.