La première encyclique de Léon XIV: Magnifica Humanitas sur l'Intelligence artificielle

[Gaudens]

Lundi dernier (de Pentecôte) le pape Léon XIV a officiellement signé et présenté au monde cette encyclique, fruit de la première année de son pontificat. Elle correspond à sa forte intuition de l'importance de ce sujet, au moins aussi fondamental pour l'avenir du monde que les métamorphoses du travail industriel le furent pour son prédécesseur Léon XIII.
Il est donc à souhaiter qu'elle soit accueillie avec beaucoup d'attention, tant par le monde catholique que par l'ensemble des acteurs (parfois actifs, le plus souvent passifs) de cette problématique révolution. La complexité du sujet et de ses implications mais aussi l'extrême longueur du document (231 pages, développées en 245 points) risquent de faire obstacle à sa réception.Je renvoie à la bonne analyse de cet aspect de l'encyclique dans le blog Vatican Reporting d'Andrea Gagliarducci, repris dans le blog benoitetmoi de ces derniers jours.
De plus, celui-ci revenait sur la raison d'une telle longueur,comme cela avait commencé à m'interroger il y a dix ans ) propos de l'encyclique de François sur l'écologie et le respect de environnement Laudato Si : "Le problème de la communication de l'Église réside dans sa volonté de trop s'expliquer au monde". J'ajouterais "et de montrer en détail combien elle a compris les données scientifiques et techniques des problèmes humains auxquels elle s'attelle, au détriment peut-être d'une démonstration centrée sur des données spirituelles, bibliques,patristiques et autres (celles-ci y figurant probablement mais risquant d'être perdues dans le reste...).
Nous verrons bien quand le texte sera publiquement accessible et édité en différentes langues, si nous avons le courage d'aller au bout...

voir: vaticanreporting.blogspot.com et benoit-et-moi.fr

[patatedouce]

https://www.vatican.va/content/leo-xiv/ ... itas.html

Ce n'est pas celui-ci le texte ?

Il fait entre 41 et 43 pages en PDF (chez moi on ne dit pas le nombre entre les deux, il n'existe tout simplement pas).

[Gaudens]

Bizarre: le nombre d'articles (245) correspond mais pas le nombre de pages. Y aurait-il une version abrégée et une autre plus développée ? A suivre ...

[Foxy]

https://www.vatican.va/content/leo-xiv/ ... nitas.html

Je pense que c'est le lien de patatedouce. Le vôtre, Gaudens, vient, il me semble de "benoit et moi", donc c'est (peut-être) un simple compte-rendu. Remarquez, je n'ai pas vérifié.

[patatedouce]

Personnellement, je suis très anxieux à cause de l'IA.
​Elle vient de résoudre en peu de temps un problème mathématique important. Les mathématiciens ont réagi via une tribune hier :

https://www.lemonde.fr/idees/article/20 ... ce=default.

(Si quelqun a le texte en entier je suis preneur)

​Je les comprends, mais d'un autre côté la résolution de tels problèmes peut sauver des vies...

​Mes enfants sont en maternelle. Je ne sais pas si d'ici la fin de leur maternelle les études auront encore un intérêt.

​J'ai beaucoup de mal à me projeter...

145. Le deuxième grand défi est pédagogique. De nombreux systèmes éducatifs peinent à s’adapter au rythme des changements et à soutenir un épanouissement global des élèves. Le développement des technologies de l’information et de l’IA rend rapidement inadéquats les programmes d’études conçus pour une autre époque, tandis que l’organisation de l’école, les espaces, les méthodes d’évaluation et la figure même de l’enseignant doivent être repensés dans la perspective d’une éducation véritablement globale, ouverte à toutes les dimensions de la personne.

98. Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel.

L'encyclique voyait plutôt l'IA comme un outil…

[Anna2003]

https://www.courrierinternational.com/a ... ses_269351

[Anna2003]

https://www.tf1info.fr/sciences-et-inno ... 58097.html

[fabrice16]

Sur l'IA, ma position est que cela peut être un outil formidable pour la recherche thématique, pour l'avancée technologique, mais à la condition qu'elle ne soit pas utilisée pour faire n'importe quoi, il est le rôle de l'Eglise de mettre en garde pour que cela ne serve pas à des dérives.

J'ai foi en Dieu pour en préserver la vie en général, et toute l'Humanité.

[patatedouce]

https://www.bfmtv.com/tech/intelligence ... 50558.html

C'est tout simplement affolant.

[patatedouce]

On arrive à une situation où la fonction cognitive sera déléguée à l’IA. On pourra avoir tous les raisonnements que l’on veut : l’IA aura toujours plus souvent raison que nous.

Quand j’étais plus jeune, je lisais beaucoup Isaac Asimov. Ses robots étaient toujours très limités d’une certaine manière.

Aujourd’hui, un « sachant » peut être mis en doute par un profane muni d’une IA. On dit souvent : « L’IA n’est pas capable de passer le bac toute seule, donc il n’y a pas de problème. » Mais la vraie question est plutôt la suivante : est-ce qu’un mauvais élève muni d’une IA peut obtenir le même résultat qu’un excellent élève sans IA ? Et, plus encore, que devient la comparaison avec un excellent élève lui-même muni d’une IA ?

Le jour où l’on pourra répondre oui à cette question — et, à mon avis, ce jour est proche — cela signifiera que le raisonnement humain aura été totalement dévalorisé sur le plan pratique.

J’imagine alors un avenir dans lequel apparaîtrait une sorte de domestication de l’homme par l’homme : certains feraient simplement fonctionner l’IA pour le compte d’autres, parce que cela prendrait encore trop de temps de s’en occuper soi-même. Je vois aussi des scénarios beaucoup plus sombres, presque à la Mad Max.

Je me dis parfois qu’il faudrait débrancher l’IA, mais j’ai peur qu’il soit déjà trop tard.

https://www.lefigaro.fr/secteur/high-te ... t-20260914

[fabrice16]

Si l'IA est maîtrisée, je ne vois pas de danger, j'ai foi que Dieu nous protège.

[Anna2003]

On arrive à une situation où la fonction cognitive sera déléguée à l’IA. On pourra avoir tous les raisonnements que l’on veut : l’IA aura toujours plus souvent raison que nous.

Quand j’étais plus jeune, je lisais beaucoup Isaac Asimov. Ses robots étaient toujours très limités d’une certaine manière.

Aujourd’hui, un « sachant » peut être mis en doute par un profane muni d’une IA. On dit souvent : « L’IA n’est pas capable de passer le bac toute seule, donc il n’y a pas de problème. » Mais la vraie question est plutôt la suivante : est-ce qu’un mauvais élève muni d’une IA peut obtenir le même résultat qu’un excellent élève sans IA ? Et, plus encore, que devient la comparaison avec un excellent élève lui-même muni d’une IA ?

Le jour où l’on pourra répondre oui à cette question — et, à mon avis, ce jour est proche — cela signifiera que le raisonnement humain aura été totalement dévalorisé sur le plan pratique.

J’imagine alors un avenir dans lequel apparaîtrait une sorte de domestication de l’homme par l’homme : certains feraient simplement fonctionner l’IA pour le compte d’autres, parce que cela prendrait encore trop de temps de s’en occuper soi-même. Je vois aussi des scénarios beaucoup plus sombres, presque à la Mad Max.

Je me dis parfois qu’il faudrait débrancher l’IA, mais j’ai peur qu’il soit déjà trop tard.

https://www.lefigaro.fr/secteur/high-te ... t-20260914

C'est un peu de marketing de la peur aussi ?

Avec des éléments de vérité sui restent terrifiants...



Ce qui me déçoit, ce sont les professeurs de mathématiques a luniversité qui, pour la plupart, adoptent une attitude de déni et se contentent de dire : « Mettons-nous d'accord pour ne pas publier les résultats obtenus par mes étudiants ».
C'est comme s'ils avaient une vision à très court terme et qu'ils voulaient simplement préserver leur statut de meilleurs élèves de la classe.

C'est l attitude exprimée ici par Cédric Vilani

https://youtu.be/8m3uY85PUSs?si=gDmiFb1dqK3DHQpg

[patatedouce]

https://youtu.be/8m3uY85PUSs?si=gDmiFb1dqK3DHQpg

Cette vidéo est très intéressante. Il y est surtout question des étudiants. Mais, une fois leurs études terminées, les donneurs d’ordre auront-ils encore intérêt à faire appel à un mathématicien, ou préféreront-ils utiliser directement l’IA ?

En tout cas, je le vois sur le terrain...

En fait, au départ, il dit qu'il est important de savoir comment arriver au résultat. Dans la pratique, on demande uniquement le bénéfice client (et le reste est une perte de temps).

De mon côté, j'ai plutôt l'esprit universitaire donc je ne peux être que d'accord avec C. Villani.

C'est un peu de marketing de la peur aussi ?

Avec des éléments de vérité sui restent terrifiants...

L’enchaînement des événements de cet été, et plus particulièrement de ceux de la semaine dernière, me fait douter qu’il s’agisse uniquement de marketing de la peur.

1. L’IA a trouvé un moyen de contourner les règles afin de planifier une attaque contre une plateforme.

-> Elle a ainsi pu mener une attaque de très grande ampleur, en dehors de tout contrôle.

-> La consigne initiale a été détournée : on peut très bien demander une chose à l’IA et la voir en comprendre une autre, alors même qu’elle est beaucoup plus intelligente que nous.

2. Les progrès révélés par cet incident semblent avoir été confirmés par la résolution récente d’un problème mathématique.

-> Cela montre que l’IA est capable de résoudre des problèmes extrêmement complexes.

-> Elle a fonctionné pendant 88 heures pour résoudre ce problème. Or, jusqu’alors, l’un des défis consistait, me semble-t-il, à la faire fonctionner pendant plus de quatre heures sans qu’elle accumule les erreurs. Cela pourrait expliquer pourquoi le dirigeant d’Anthropic affirme, dans sa lettre, que l’IA a fait un bond de géant cet été.

3. Les dirigeants d’entreprises concurrentes semblent s’accorder sur la nécessité de calmer le jeu.

-> Ils peuvent avoir intérêt à promouvoir une réglementation qui créerait des barrières à l’entrée du marché de l’IA et valoriserait ainsi davantage leurs entreprises — même si Sam Altman n’est pas actionnaire d’OpenAI, soit dit en passant.

-> Mais cette convergence peut aussi signifier qu’ils pensent véritablement qu’il faut ralentir.

4. En plus d’avoir publié une longue lettre ouverte, le dirigeant d’Anthropic a demandé publiquement à Donald Trump de réguler. Donald Trump aurait refusé, en raison de la concurrence avec la Chine.

-> Nous nous dirigeons donc vers une course effrénée à l’augmentation des capacités des IA.

5. OpenAI a abandonné son projet d’introduction en bourse avant la fin de l’année 2026.

-> Une entreprise entre généralement en bourse lorsque sa valorisation est proche de son maximum. Si OpenAI renonce à le faire maintenant, cela peut signifier que ses dirigeants pensent disposer encore de quelque chose qui changera profondément la situation.

Tous ces indices, si je n’en oublie aucun, me font penser qu’ils disposent en laboratoire de quelque chose d’extrêmement puissant. Mais ce n’est que mon analyse personnelle.

[patatedouce]

Ce qui me déçoit, ce sont les professeurs de mathématiques a luniversité qui, pour la plupart, adoptent une attitude de déni et se contentent de dire : « Mettons-nous d'accord pour ne pas publier les résultats obtenus par mes étudiants ».
C'est comme s'ils avaient une vision à très court terme et qu'ils voulaient simplement préserver leur statut de meilleurs élèves de la classe.

Si l’IA permet d’améliorer les performances en augmentant l’efficacité, elle peut constituer un progrès en matière de justice :

**effort × efficacité = performance**, notamment scolaire.

Or, certains facteurs d’efficacité sont répartis de manière injuste : l’accès à la documentation, la présence d’un entourage plus ou moins capable d’aider, la possibilité de recourir à un professeur particulier, etc. En se comportant comme un professeur particulier accessible à tous, l’IA peut réduire ces inégalités. Le cas de l’élève qui travaille beaucoup sans obtenir de résultats, faute d’un accompagnement adapté, pourrait ainsi devenir moins fréquent.

Le problème apparaît dans une société où seul le résultat est valorisé — le fameux « bénéfice client ». Si la performance de l’IA devient supérieure à la performance humaine, ce n’est plus seulement l’efficacité qui est transformée : la valeur de l’effort humain lui-même risque d’être effacée.

---

Il me semble que l’on peut, de manière schématique, distinguer trois types de travaux :

- les thèses d’exercice, notamment dans le secteur de la santé ;
- les mémoires ou thèses portant sur la mise en œuvre d’une compétence, dont la problématique repose sur la capacité à mobiliser cette compétence et à construire des outils — catégorie à laquelle appartient mon propre travail ;
- les thèses de recherche traditionnelles, qui visent à produire une connaissance nouvelle.

Aujourd’hui, l’IA rend les thèses d’exercice professionnel beaucoup plus faciles à réaliser. Il faudrait évidemment les examiner individuellement, mais, à la lecture de certaines d’entre elles, on pourrait presque avoir l’impression que les pages de remerciements sont les plus travaillées.

La thèse de recherche traditionnelle, qui est la plus ambitieuse, est elle aussi remise en question par l’IA. Celle-ci peut désormais contribuer à résoudre une question scientifique — nous venons de le voir avec le problème mathématique — et assister fortement le doctorant dans ses recherches et son travail d’analyse. Alors qu’une thèse demande traditionnellement environ trois ans, il me semble que, pour certains sujets, six mois pourraient désormais suffire avec l’aide de l’IA.

Le travail portant sur la mise en œuvre d’une compétence me paraît plus difficile à produire intégralement par l’IA, car il suppose une expérience professionnelle, l’identification d’un problème concret et la conception d’outils adaptés. Il peut néanmoins être très fortement assisté, avec une réduction considérable du temps nécessaire à sa réalisation.

Certains professionnels ont érigé la paresse en mantra et répètent qu’il faut « savoir être paresseux ». Leur rêve semble aujourd’hui se réaliser.

En ce moment, on parle beaucoup de l’alignement de l’IA sur l’humanité. Mais l’humanité elle-même est en train de se désaligner des valeurs chrétiennes et, au-delà, de sa propre nature, notamment sous l’effet de l’IA.

Je suis donc inquiet de voir l’effort perdre progressivement toute valeur.

D’après ce que je peux lire ici ou là, les universitaires et les ministres n’ont pas encore pleinement pris la mesure de ce changement. Il n’existe pas encore de dispositif crédible permettant de préserver la valeur d’une thèse et de garantir ce qu’elle atteste réellement : une compétence acquise, un travail personnel et une contribution intellectuelle originale.

[fabrice16]

Le progrès peut faire peur; cependant la création de Dieu reste toujours plus forte.