Dans une alliance inhabituelle, le prince Harry, Meghan Markle et des personnalités du monde de la technologie, de la politique et du divertissement se sont joints aux commentateurs conservateurs Steve Bannon et Glenn Beck. Leur cause commune ? Exiger l’interdiction du développement d’une intelligence artificielle super puissante et « super intelligente », qui, craignent-ils, menace l’avenir de l’humanité.L’appel à l’action, organisé par l’association à but non lucratif Future of Life Institute, cible directement les géants de la technologie comme Google, OpenAIet Meta, qui se lancent dans une course aux enjeux élevés pour construire une intelligence artificielle capable de surpasser les humains dans presque toutes les tâches cognitives.
Une demande simple et directe
La déclaration du groupe est un bref avertissement de 30 mots : « Nous appelons à un moratoire sur le développement de la superintelligence, qui ne sera pas levé avant qu’il n’y ait un large consensus scientifique sur le fait que cela sera fait de manière sûre, contrôlable et avec une forte acceptation du public. »La lettre reconnaît que l’intelligence artificielle peut apporter des avantages tels que de nouveaux traitements et la prospérité économique. Cependant, il met en garde contre le côté obscur, notant que l’objectif de créer une superintelligence suscite des craintes « d’obsolescence économique humaine et de perte de pouvoir, de perte de liberté, de libertés civiles, de dignité et de contrôle, de risques pour la sécurité nationale et même de possibilité d’extinction humaine », a rapporté l’Associated Press.
Une alliance improbable pour une cause commune
La liste des signataires est remarquablement diversifiée, dépassant de profondes divisions politiques et professionnelles dans le but de démontrer une inquiétude généralisée.Dans une note personnelle, le prince Harry a déclaré : « L’avenir de l’IA doit servir l’humanité, et non la remplacer. Je crois que le véritable test du progrès ne sera pas la rapidité avec laquelle nous avançons, mais la sagesse avec laquelle nous dirigeons. Il n’y a pas de seconde chance. » Meghan, la duchesse de Sussex, a également signé, rapporte l’Associated Press.Ils ont été rejoints par des pionniers de l’IA qui ont contribué à créer la technologie qui suscite aujourd’hui des inquiétudes. Yoshua Bengio et Geoffrey Hinton, lauréats du prix Turing, ont ajouté leurs noms. Hinton, qui a également récemment remporté un prix Prix Nobel En physique, il était franc sur les risques.L’inclusion de Steve Bannon et Glenn Beck indique une tentative de séduire un large spectre politique, y compris les partisans de l’ancien président. Donald Trump.Parmi d’autres signataires notables pomme Le co-fondateur Steve Wozniak, le milliardaire Richard Branson, l’ancien général américain Mike Mullen et Barack ObamaSusan Rice, conseillère à la sécurité nationale. Acteurs Stephen Frire Joseph Gordon-Levitt a également signé.“Oui, nous voulons des outils d’IA spécifiques qui peuvent aider à guérir des maladies, à renforcer la sécurité nationale, etc.”, a commenté Gordon-Levitt, dont l’épouse siégeait auparavant au conseil d’administration d’OpenAI.Il a également ajouté : “Mais l’IA doit-elle aussi imiter les humains, soigner nos enfants, nous transformer tous en accros aux ordures et gagner des millions de dollars en diffusant des publicités ? La plupart des gens ne veulent pas de cela.”
La peur est-elle justifiée ou simplement de la propagande ?
Ce message est susceptible d’alimenter les discussions en cours au sein de la communauté technologique sur la gravité de la menace posée par la super-IA.Max Tegmark, président du Future of Life Institute, a noté que les critiques sont devenues monnaie courante. “Dans le passé, c’était surtout des nerds contre des nerds”, a-t-il déclaré. “J’ai l’impression que ce que nous constatons ici, c’est à quel point la critique est devenue si courante.”Ce qui complique le problème est que les entreprises qui développent cette technologie exagèrent parfois la capacité de leurs produits à attirer les investisseurs, créant ce que certains craignent comme étant une « bulle de l’IA ».Ce n’est pas le premier avertissement du groupe Tegmark. En mars 2023, ils ont appelé à un moratoire temporaire sur le développement de modèles d’IA puissants. Cet appel a été ignoré par de grandes entreprises, dont le plus célèbre du site, Elon Musk, qui créait au même moment sa propre société d’intelligence artificielle.Lorsqu’on lui a demandé s’il avait de nouveau contacté Musk, Tegmark a déclaré qu’il avait contacté tous les principaux PDG d’IA, mais qu’il ne s’attendait pas à ce qu’ils signent. Il sympathisait avec leur position confinée dans une course compétitive. “Je pense que c’est pour cela qu’il est si important de stigmatiser la course à la superintelligence, dans la mesure où le gouvernement américain s’y implique”, a-t-il conclu.