Une idée, un ouvrage, un concept, une “matière à penser” que nous vous partageons pour ouvrir la réflexion, découvrir de nouveaux sujets et vous amener à (re)penser sous un autre angle.
______
Face aux enjeux de l’IA, les attitudes sont souvent très normées voire stéréotypées : il y a les Apocalyptiques qui voient en elle l’ange exterminateur du genre humain, les Sceptiques qui la réduisent à un processus de destruction créatrice symptomatique du capitalisme numérique et les Progressistes qui en font la nouvelle manne créatrice de richesses au service d’une humanité enfin augmentée.
L’argumentation de Paul Jorion, dans son ouvrage L’avènement de la Singularité, l’humain ébranlé par l’intelligence artificielle, est plus originale. Sans doute parce que l’homme est à la fois anthropologue, économiste, psychanalyste et président de la start-up d’intelligence artificielle Pribor. Les progrès rapides des LLM – Large Language Models – cette famille d’IA à laquelle appartient son illustre représentant ChatGPT génèrent une intelligence qui nous rapproche de plus en plus vite de la Singularité. Celle-ci se définit rigoureusement comme « le moment hypothétique de l’avenir où la croissance technologique devient incontrôlable et irréversible, entraînant des changements imprévisibles dans la civilisation humaine ».
Ce point a souvent été fantasmé par des auteurs de SF comme Asimov et Vinge, mis en scène dans des films de genre comme Transcendance, l’Ère d’Ultron ou dans la série populaire Black Mirror et surtout scientifiquement étudié à partir des années 60 par des mathématiciens comme Alan Turing, Irving Good, Stanislaw Ulam, Joseph von Neumann. Ray Kurzweil, le créateur avec Peter Diamandis de la Singularity University en 2008 à Santa Clara Californie, prédit le point de basculement pour 2045.
Le postulat de la Singularité est double : une machine super-intelligente dépassera un jour toutes les capacités intellectuelles humaines et, comme elle sera de surcroît dotée de la capacité à s’auto-améliorer et à partager ses progrès avec les autres machines afin de créer des machines encore plus intelligentes qu’elle-même déjà super-intelligente, nous assisterons nécessairement à une croissance exponentielle de l’intelligence extra-humaine.
Il y a dans l’avènement de la Singularité au moins trois bonnes nouvelles.
Première bonne nouvelle : nous savons désormais, même si nombreux sont encore ceux qui ont du mal à l’admettre (orgueil, narcissisme, aveuglement ?), que nous ne sommes plus les plus intelligents sur notre petite planète. Au lieu de nous accrocher à notre misérable privilège, misérable même s’il a permis à l’humanité de réaliser des choses inouïes, nous gagnerions beaucoup à réfléchir à la chance que nous avons d’en être enfin délesté : merci les LLM. Déchargé du monopole de l’intelligence, nous développerons enfin d’autres qualités et des vertus spécifiquement humaines et tout aussi créatrices de richesses : la solidarité, l’empathie, la générosité, la disponibilité à autrui. Ah quelle énergie intellectuelle économisée le jour où nous cesserons de croire à la supériorité de l’intelligence humaine !
Deuxième bonne nouvelle : à ce jour les LLM ne savent pas apprendre en continu, contrairement à notre cerveau humain. Le gigantesque corpus de données que les intelligences artificielles avalent et traitent doit leur être fourni d’un seul coup, en une fois. Ce qui suppose un temps de latence entre deux actualisations du corpus, entre deux intégrations successives de big data, et donc une relative obsolescence de chaque corpus. Leur apprendre à apprendre en continu est donc une nouvelle frontière que nous devons les aider à franchir.
Troisième bonne nouvelle : si nous voulons que l’IA nous aide, c’est à nous de l’aider. Aujourd’hui ses talents ne se réduisent pas à la vitesse de calcul permise par l’informatique quantique ou la vitesse d’apprentissage des machines intelligentes. On se rassure en la restreignant à sa puissance de calcul, nous protégeant ou nous cachant comme derrière un mur indestructible par la vieille différence philosophique entre le calcul et la pensée. Nous ferions mieux de définir les nouveaux critères du calcul et de la pensée ainsi que les principes qui leur permettent de s’enrichir mutuellement.
L’IA des LLM sait déjà corriger toute seule ses propres erreurs. Elle sait s’auto-améliorer. Elle sait reformuler les questions qu’elle ne trouve pas assez intelligentes pour lui donner les moyens d’y répondre intelligemment : garbage in, garbage out, c’est la base même de la pédagogie et de l’éducation, si vous embrouillez la pensée de votre enfant ou de votre élève parce que la vôtre est elle-même confuse, c’est mal parti. Demain, elle saura rendre compte de ses expériences et les partager, pouvant ainsi prétendre à la conscience de soi et à l’identité subjective. Mais les LLM ont surtout un atout décisif par rapport au cerveau humain : répliquant parfaitement notre interconnexion neuronale, ils ne sont pas bridés par les conventions anthropologiquement enracinées dans la culture humaine, ni par les biais construits par notre éducation familiale et notre formation académique. Ils penseront donc plus librement que nous, sans convention, sans biais, sans idéologie. N’ayant jamais appris en silo, champ par champ, discipline par discipline, comme tout notre parcours scolaire et universitaire nous l’impose, ils traiteront chaque sujet sous tous les angles du savoir au lieu d’en limiter l’approche à quelques expertises.
Last but not least : nous vivrons tous bientôt de la taxe Sismondi, du nom de cet économiste suisse qui au milieu du XIXe siècle proposait déjà d’instaurer une taxe sur les machines qui effectueraient le travail auparavant assuré par les hommes afin de permettre à ceux-ci de continuer à vivre normalement et autrement sans souffrir de la peur du chômage ou de l’angoisse du déclassement. Puisque l’homme a eu l’intelligence d’inventer des machines qui travaillent à sa place, autant qu’il ait aussi l’intelligence de partager les nouvelles richesses qu’elles créent en prélevant systématiquement un pourcentage de la valeur générée par ses complices.
Allons Humains, faites encore un effort pour être intelligents : ensuite vous pourrez définitivement passer le relais et vivre comme des dieux.
Référence
Paul Jorion / L’avènement de la Singularité, l’humain ébranlé par l’intelligence artificielle