Dans un long manifeste publié lundi intitulé L'avenir est pour tout le monde : la voie vers un avenir positif en matière d'IA, Le PDG de Meta, Mark Zuckerberg, a exposé sa philosophie sur la superintelligence, mettant en garde contre la concentration de la technologie entre les mains de quelques institutions, gouvernements ou même des systèmes d'IA eux-mêmes.
Tout en prédisant un avenir dans lequel les agents d'IA seront entièrement personnalisés pour les utilisateurs individuels, le milliardaire de la technologie de 42 ans estime qu'une superintelligence singulière et centralisée ne peut pas servir les intérêts de tous. La seule voie réaliste vers la sécurité, a-t-il déclaré, consiste à diffuser largement la superintelligence personnelle afin que les individus et les agents d’IA concurrents créent des freins et contrepoids naturels.
“Il est néanmoins surprenant que le discours de nombreuses personnes développant l’IA soit si pessimiste. Je ne comprends pas pourquoi quiconque croit que l’IA éliminera la plupart des emplois et une grande partie de la pertinence de l’humanité se précipiterait pour construire cet avenir”, a-t-il écrit. “L’idée selon laquelle l’IA est si dangereuse que la seule voie sûre est une concentration extrême du pouvoir semble intrinsèquement problématique. Historiquement, espérer qu’une puissance absolue subviendra avec bienveillance aux besoins de l’humanité si elle est suffisamment éclairée n’a pas conduit à des résultats sûrs ou positifs.”
Au lieu de cela, Zuckerberg a averti que l’effort visant à construire une superintelligence théorique de l’IA —un résultat qu’il a rejeté dans le passé— constituerait en soi la plus grande menace.
“Il n’existe pas de solution technologique capable de s’aligner à la fois sur les intérêts et les valeurs opposés de chacun”, a-t-il écrit. “Toute superintelligence singulière devrait donner la priorité à certaines valeurs par rapport à d’autres et, ce faisant, serait incapable d’être bienveillante envers tout le monde.”
Dans le cadre de son avertissement, Zuckerberg — qui a été élevé dans la religion juive, autrefois identifié comme athée, dit maintenant qu'il croit que la religion est “très importante” — a déclaré que si le “pouvoir de la superintelligence est détenu par un petit nombre d'individus, d'entreprises, de gouvernements ou par l'IA elle-même, alors cela conduira naturellement à des résultats moins favorables pour tout le monde.”
Zuckerberg a alors déclaré : “Il n’existe pas de superintelligence bienveillante singulière.”
Athées et agnostiques comme Neil deGrasse Tyson ont utilisé un langage similaire prétendre qu’un manque de bienveillance dans la réalité observable est une preuve contre l’existence de Dieu.
Cependant, des apologistes chrétiens tels que le PDG du Creation Museum, Ken Ham, argumenter que ce sont les humains — et non Dieu— qui sont responsables de ce qui est un monde « déchu ».
Alors que le manifeste de Zuckerberg approuvait largement la décentralisation de l’IA, il a également suggéré que l'humanité pourrait un jour en perdre le contrôle “au point qu'au mieux cela ne sert plus les intérêts de l'humanité et au pire met l'humanité en péril”
Sa solution : donner aux gens leur propre IA personnelle “superintelligente”.
“La clé d’un avenir positif pour tous est de parvenir à un équilibre des pouvoirs qui favorise les individus”, a-t-il écrit. “La solution est de garantir que la superintelligence soit largement distribuée pour donner du pouvoir aux gens.”
Il a ajouté : “Un équilibre sain des pouvoirs consiste à garantir qu’il n’y ait pas de superintelligence centralisée singulière, mais au lieu de cela, autant de personnes et d’entreprises que possible avec différents agents superintelligents alignés sur leurs objectifs qui se contrôlent et se font concurrence dans la manière dont notre économie naturelle se comporte.”
En 2024, Zuckerberg a rejeté les commentaires d’Altman, Musk et d’autres qui mettaient en garde contre le fait que l’IA donne lieu à une “dieu numérique,” dire que ce n'est pas le but de la technologie.
“Je trouve que c'est assez rebutant quand les gens du secteur technologique [...] parlent de construire cette ‘une véritable IA,’” Zuckerberg dit lors d'un podcast 2024. “C'est presque comme s'ils pensaient créer Dieu ou quelque chose comme ça [...] Ce n'est pas ce que nous faisons. Je ne pense pas que cela se passe comme ça.”
CP
