Avec son large sourire et sa fine barbe noire, il a un faux air de l’auteur du « Nom de la Rose », le regretté Umberto Eco. Mais ses « best-sellers » à lui ont plutôt pour titres « Homo Faber » ou « Le Hamburger de Frankenstein ». C’est lui qui a oeuvré, dans l’ombre, à l’idée d’un G7 très particulier. Pour la première fois dans l’histoire de l’Eglise, un pape participera, du 13 au 15 juin, au sommet des pays industrialisés du G7 à Fasano, dans les Pouilles. Ainsi l’a voulu la cheffe du gouvernement italien, Giorgia Meloni, qui a invité le souverain pontife à se joindre aux travaux du G7 centrés sur l’impact de l’intelligence artificielle.

Après tout, le pape argentin n’a-t-il pas récemment noué le dialogue avec le patron d’Apple, Tim Cook, et Elon Musk, le patron de X et de Space X, figure de proue des libertariens de la Silicon Valley ? A l’origine de ces rencontres inédites, on retrouve la patte discrète d’un infatigable globe-trotteur, un moine franciscain de 50 ans, membre du Tiers-Ordre régulier fondé par saint François d’Assise.

Une thèse en théologie morale sur le cyborg
« La participation du pape François au G7 a un potentiel comparable au discours retentissant de Paul VI aux Nations Unies, qui a fait date, en 1965. On verra comment il peut influencer l’agenda global sur l’intelligence artificielle », confie Paolo Benanti, de retour de Singapour. Aussi jovial qu’érudit, ce théologien en robe de bure, féru de philosophie et d’ingénierie, sillonne les continents pour tenter de rallier le soutien des brebis égarées de la Big Tech, quand il n’enseigne pas l’« éthique de la technologie » et l’impact de la robotique sur les problématiques sociales à l’Université grégorienne pontificale de Rome.
Sa thèse de doctorat en théologie morale portait sur le cyborg, le robot humanoïde qui hante notre imaginaire depuis Frankenstein. En l’espace de quelques mois, il est devenu la tête pensante du Vatican sur les questions d’intelligence artificielle. Il a l’oreille du pape François, mais aussi du secrétaire général des Nations unies, António Guterres, du patron de Microsoft, Satya Nadella, et de la cheffe du gouvernement italien, Giorgia Meloni, qui l’a nommé à la présidence de la nouvelle « Commission sur l’IA pour l’information », en remplacement de l’ancien président du Conseil, Giuliano Amato, en janvier 2024. Pour cause : auteur d’une flopée d’essais remarqués, il s’est taillé la réputation d’être l’un des principaux éclaireurs du Saint-Siège sur les questions d’éthique dans la high-tech, avec son « rival » français, le dominicain Eric Salobir, fondateur du think tank Optic Technology .

Menace pour la justice sociale
Sans sombrer dans l’angélisme ou la diabolisation, le conseiller IA du pape est loin d’enfoncer des portes ouvertes. « C’est un vrai expert très respecté dans le milieu scientifique », confirme Paolo Landi, auteur d’un récent ouvrage sur « La Dictature des algorithmes » (Krill Books). Depuis son essai sur la viande synthétique ( « Le Hamburger de Frankenstein », 2017) ou son livre sur les « Machines Savantes », le padre Benanti a pris l’habitude de décortiquer les « révolutions » technologiques avec des « lunettes éthiques ».
Pour lui, il est excessif de parler d’une « révolution » pour l’essor des IA génératives. Il préfère parler de renaissance, du nom de la Fondation RenAIssance, une organisation à but non lucratif dédiée à la réflexion éthique sur les nouvelles technologies, créée sous l’aile du Vatican, dont il a pris la direction scientifique en 2021. « Le terme révolution est trop fort, mais c’est évident que c’est le dernier anneau de la chaîne liée à la révolution industrielle. Cela ne veut pas dire pour autant que l’impact sur la société ne sera pas considérable », ajoute Paolo Benanti.

Aggravation de la fracture numérique
De fait, il reste persuadé que l’IA peut avoir un impact social « dévastateur » sur les cols blancs et la classe moyenne. « Ce sera le cas si nous ne gérons pas la transition sur la base de critères de justice sociale, dit-il. L’effet contre-révolutionnaire de l’IA pourrait être le démantèlement d’une série de droits sociaux que nous avons péniblement construits au cours des derniers cent cinquante ans. »
Face au succès spectaculaire de ChatGPT, l’outil conversationnel développé par OpenAI, Paolo Benanti évoque le risque d’un grand malentendu. « Lorsque cet outil est arrivé, la plupart des gens n’ont pas vu qu’il s’agissait d’une sorte de grande démo destinée à montrer au public la puissance de ce nouvel instrument développé par OpenAI, et non d’un système définitif. Ils l’ont pris pour un véritable moteur de recherche auquel on peut faire confiance », déplore-t-il. Or, les réponses de ChatGPT sont souvent loin d’être fiables et réelles. On l’a vu de façon spectaculaire avec l’émergence des « deepfakes » symbolisés par la désormais célèbre image du pape en doudoune blanche Balenciaga. A plus long terme, c’est la menace d’une aggravation de la fracture numérique entre pays industrialisés et pays défavorisés qui se profile. « La façon dont l’IA pourrait remodeler la distribution des richesses et du pouvoir risque d’être vraiment sans pitié pour les plus fragiles », martèle le moine franciscain.

L’inventeur de « l’algoréthique »
Lors de la dernière Conférence des ambassadeurs de l’Ordre souverain militaire et hospitalier de Malte, organisée à Rome, le conseiller du pape a ainsi tiré la sonnette d’alarme en brandissant la menace d’un effondrement social, en l’absence de la création d’une gouvernance globale. Pour lui, n’importe quelle technologie puissante est politique. C’est pourquoi l’IA a besoin de garde-fous . En mars 2023, il a publié un article remarqué sur « l’urgence de l’algoréthique », un concept qu’il a lui-même inventé en 2018 dans son livre « Oracles, entre algoréthique et algocratie », et qui a fait école depuis. 

Dans son message de paix pour 2024, le pape François a plaidé pour l’élaboration d’un vrai traité international garantissant l’utilisation éthique des technologies de l’IA. Un vaste chantier. Pour l’heure, le conseiller du pape s’est d’abord fixé pour objectif de rallier le maximum de soutiens dans la société civile. Après IBM et Microsoft, le PDG de Cisco, Chuck Robbins, est le dernier en date à avoir signé, le 24 avril, l’Appel de Rome pour l’algoréthique qu’il a lancé en 2020. En outre, le directeur scientifique de la Fondation RenAIssance du Vatican va organiser en juillet un sommet pour l’adhésion des religions orientales (hindouisme, bouddhisme, taoïsme…) à l’Appel de Rome, à Hiroshima, lieu symbolique pour « rappeler que, jamais plus, la technologie ne doit être utilisée comme instrument de destruction. Nous y travaillons depuis dix-huit mois. Tous les leaders religieux qui adhéreront à l’appel représenteront ainsi la majorité des personnes vivant sur la planète », se félicite-t-il.

En bon théologien, Paolo Benanti aime résumer son propos par une parabole. Y compris sur les limites de l’IA. Un jour, un industriel du secteur médical a cherché à le confronter à un agent de conversation virtuel en l’invitant à lui poser une question. Flairant le mirage, le franciscain lui a carrément demandé comment éliminer le cancer de la surface de la Terre. La machine lui a répondu : « En éliminant tous les hommes. » La machine avait visiblement omis les critères éthiques…

Lire l’article complet sur : www.lesechos.fr