À Yom Kippour, on demande pardon pour ses paroles et ses actes. Mais quand c’est une intelligence artificielle qui écrit à notre place et qu’elle se trompe, rédige une insulte ou invente une fausse information, qui doit faire téchouva ? Entre libre arbitre, responsabilité talmudique et nouveaux « alibis » technologiques, cette question a priori provocatrice touche à l’un des fondements les plus anciens de la pensée juive.
Nous demandons pardon à Yom Kippour pour nos paroles, nos actes, nos mensonges, nos humiliations et nos erreurs. Mais que se passe-t-il désormais lorsqu’une partie de ces paroles est écrite par une intelligence artificielle ? Si un programme invente une information, rédige une insulte, conseille une décision désastreuse ou provoque indirectement un dommage, qui doit demander pardon ?
La question peut sembler provocatrice. Elle touche pourtant à quelque chose de très ancien dans le judaïsme : pour pouvoir fauter, encore faut-il pouvoir choisir.
Une intelligence artificielle peut-elle réellement pécher ?
Au sens strict de la tradition juive, la réponse paraît être non.
Une intelligence artificielle peut produire une phrase fausse. Elle peut générer un texte blessant. Elle peut même participer à une décision ayant des conséquences graves. Mais cela ne signifie pas qu’elle a commis une faute morale.
Pourquoi ? Parce que la faute, dans le judaïsme, est liée à la responsabilité de celui qui agit. La Torah formule cette responsabilité de manière saisissante :
« J’ai placé devant toi la vie et la mort, la bénédiction et la malédiction ; tu choisiras la vie »
Deutéronome 30,19.
Le mot important est ici : choisir.
Une machine calcule, prédit, reproduit des structures et répond selon son fonctionnement. Aussi perfectionnée soit-elle, elle n’éprouve ni remords ni honte et ne décide pas, au sens religieux, de préférer le bien au mal.
Le libre arbitre : la clé rabbinique
Maïmonide place précisément le libre arbitre au cœur de sa réflexion sur la téchouva. Dans les Hilkhot Téchouva, il affirme que chaque être humain dispose de la faculté de se diriger vers le bien ou vers le mal. Cette capacité de choisir constitue la condition même de la responsabilité morale.
On notera d’ailleurs que cette affirmation n’a rien d’évident, même appliquée à l’homme. Les Pirké Avot posent eux-mêmes la tension avec une formule restée célèbre :
hakol tsafouï, vehareshout netouna — « tout est prévu, et pourtant la liberté est donnée » (Avot 3,15).
Si le judaïsme discute depuis des siècles de la manière dont la prescience divine peut coexister avec la liberté humaine, c’est bien la preuve que le libre arbitre est une faculté exigeante, jamais acquise mécaniquement. Or c’est justement cette exigence, ce risque, cette possibilité réelle de faillir ou de résister, qu’une machine ne connaît à aucun degré. Elle ne choisit pas entre deux voies : elle en produit une, la plus probable, selon ses paramètres.
C’est pourquoi une intelligence artificielle ne peut probablement pas faire téchouva : elle ne peut pas davantage se repentir qu’un marteau ne peut regretter d’avoir cassé une vitre.
La vraie question rabbinique devient alors beaucoup plus inconfortable :
…qui tient le marteau ?
Si quelqu’un utilise une IA pour diffuser volontairement une calomnie, fabriquer une image humiliante ou tromper un client, la technologie ne fait pas disparaître la responsabilité humaine. Elle peut seulement la rendre moins visible.
Ce que dit déjà le droit talmudique sur les dommages « à distance »
Le judaïsme n’a pas attendu l’intelligence artificielle pour se demander jusqu’où s’étend la responsabilité d’un acte dont les conséquences se déploient hors de notre main directe.
Le Talmud distingue par exemple la gérama (un dommage causé de façon indirecte, éloignée dans la chaîne de causalité) de la garmi (un dommage indirect mais suffisamment prévisible et quasi-certain pour engager malgré tout la responsabilité de son auteur).
La Michna consacre même une catégorie entière aux « pères des dommages » (avot nezikin), parmi lesquels figure esh, le feu : celui qui allume un feu répond des dégâts qu’il propage, même s’il n’a jamais touché lui-même ce qu’il a détruit, parce qu’il a mis en mouvement une force dont les effets étaient raisonnablement prévisibles.
Un système d’intelligence artificielle n’est pas si différent d’un feu qu’on allume : on ne contrôle pas chacune de ses étincelles, mais on savait, en l’allumant, qu’il pouvait s’étendre. La question n’est donc pas nouvelle dans sa structure ; elle est seulement posée avec une technologie nouvelle.
À cela s’ajoute un second principe, plus directement applicable :
shlucho shel adam kemoto, « l’émissaire d’une personne est comme elle-même ».
Lorsqu’on mandate quelqu’un — ou quelque chose — pour agir à notre place, on n’échappe pas à la responsabilité de ce qui est accompli en notre nom. Une IA n’est évidemment pas un émissaire au sens halakhique strict, puisqu’elle n’a pas de conscience à qui confier un mandat. Mais le principe éclaire tout de même la logique morale à l’œuvre : déléguer une tâche à un outil ne déplace pas la responsabilité, elle la fait simplement transiter par un intermédiaire.
« Ce n’est pas moi, c’est l’algorithme »
Imaginons qu’un employeur utilise une intelligence artificielle pour sélectionner des candidats et que le système discrimine systématiquement certaines personnes. Qui est responsable ?
Le programmeur ? L’entreprise qui a acheté le logiciel ? Celui qui a accepté les résultats sans les contrôler ? Celui qui savait que le système présentait un risque mais a décidé de continuer malgré tout ?
Les technologies changent. La question demeure : jusqu’où suis-je responsable des conséquences prévisibles de ce que je mets en mouvement ?
Quand ChatGPT se trompe, qui doit demander pardon ?
Supposons qu’une personne demande à une IA de rédiger un article. Celle-ci invente une citation. L’utilisateur publie le texte sans vérifier et porte atteinte à la réputation d’une personne.
L’ordinateur n’ira évidemment pas à la synagogue le soir de Kol Nidré.
Mais l’utilisateur peut-il simplement répondre : « Ce n’est pas moi, c’est ChatGPT » ?
Difficilement.
Il a décidé d’utiliser l’outil. Il a choisi de publier. Il pouvait vérifier l’information. Selon les circonstances, sa responsabilité peut évidemment être plus ou moins grande, mais l’existence de l’algorithme ne transforme pas automatiquement une décision humaine en événement sans responsable.
C’est peut-être l’une des questions morales majeures que l’intelligence artificielle va imposer à nos sociétés.
Et cette question ne concerne pas seulement le rapport vertical entre l’homme et Dieu. Yom Kippour rappelle avec insistance qu’aucune faute bein adam lehaveiro – entre un homme et son prochain – n’est effacée par le seul jour du pardon : elle exige d’abord une réconciliation directe avec la personne lésée. Si une IA a contribué à blesser, tromper ou discriminer quelqu’un, la question n’est donc pas seulement « qui doit se repentir devant Dieu ? » mais aussi, très concrètement, « qui doit aller trouver la victime et lui demander pardon ? ». On ne peut pas déléguer cette démarche à la machine qui a produit le dommage, pas plus qu’on ne pourrait envoyer un objet s’excuser à notre place.
La téchouva exige quelque chose qu’une machine ne possède pas
Chez Maïmonide, la téchouva n’est pas un simple « désolé ».
Elle comporte notamment la reconnaissance de la faute, le regret et l’engagement de ne pas recommencer. Maïmonide insiste également sur la nécessité du vidouï, la confession exprimée par des paroles.
Une IA peut parfaitement générer :
« Je regrette profondément ce que j’ai fait et je m’engage à ne jamais recommencer. »
Mais ces mots ne prouvent rien. Elle ne regrette pas. Elle n’a honte de rien. Elle ne prend aucune résolution. Elle produit une phrase correspondant statistiquement à ce qu’un être humain repentant pourrait dire – et c’est précisément ce qui devrait nous alerter : la forme du repentir peut être imitée à la perfection sans que son contenu existe le moins du monde. Une excuse possede-t-elle une valeur lorsqu’aucun être intérieur ne souffre d’avoir mal agi ? Yom Kippour répond implicitement que non. Le langage du repentir n’est pas une formule magique. Le mot « pardon » ne vaut que parce qu’il est prononcé par un être capable de faire autrement.
La machine peut imiter la téchouva. Elle ne peut pas encore la vivre.
Et si l’IA rendait Yom Kippour encore plus nécessaire ?
Le danger n’est donc peut-être pas que les machines commencent à pécher.
Il est que les êtres humains commencent à considérer leurs machines comme des refuges contre leur propre responsabilité.
« L’algorithme l’a décidé. » « Le logiciel l’a écrit. » « L’intelligence artificielle me l’a conseillé. »
Ces phrases risquent de devenir les nouveaux alibis de notre époque.
Or Yom Kippour repose précisément sur le mouvement inverse : se présenter devant Dieu sans intermédiaire et dire j’ai fauté. Pas : mon environnement a fauté. Pas : mon algorithme a fauté.
À Yom Kippour, l’être humain retrouve ce que l’intelligence artificielle ne possède pas : la capacité de regarder une action passée et de décider librement que l’avenir sera différent.
C’est peut-être finalement la grande leçon de Yom Kippour à l’âge de ChatGPT : plus nos machines deviennent intelligentes, plus nous devons éviter de leur abandonner notre responsabilité.
