Mustafa Soliman, PDG de Microsoft AI, prend la parole lors de la célébration du 50e anniversaire de l’entreprise au siège de Microsoft à Redmond, Washington, le 4 avril 2025.
David Ryder | Bloomberg | Getty Images
Microsoft Le chef d’IA, Mustafa Soliman, affirme que seuls les organismes biologiques sont capables de conscience et que les développeurs et les chercheurs devraient cesser de poursuivre des projets suggérant le contraire.
“Je ne pense pas que ce soit le travail que les gens devraient faire”, a déclaré Soliman à CNBC dans une interview cette semaine lors de la conférence AfroTech à Houston, où il était parmi les conférenciers principaux. “Si vous posez la mauvaise question, vous obtiendrez une mauvaise réponse. Je pense que c’est exactement la mauvaise question.”
Solomon, un cadre supérieur de Microsoft qui travaille sur l’intelligence artificielle, a été l’un des principaux porte-parole dans ce domaine en évolution rapide à s’exprimer contre la perspective d’une IA sensible, ou de services d’IA qui pourraient convaincre les humains qu’ils sont capables de souffrir.
En 2023, il a co-écrit le livre « The Next Wave », qui explore les risques de l’intelligence artificielle et d’autres technologies émergentes. En août, Soliman a écrit un article intitulé : « Nous devrions construire l’IA pour les gens, pas pour être des gens. »
C’est un sujet controversé, car le marché de l’intelligence artificielle connaît une croissance rapide, avec des produits d’entreprises telles que mort Et le xAI d’Elon Musk. Il s’agit d’une question complexe à l’heure où le marché de l’IA générative, dirigé par Sam Altman et OpenAI, évolue vers l’intelligence artificielle générale (AGI), ou IA capable d’effectuer des tâches intellectuelles comparables aux capacités des humains.
Altman a déclaré à “Squawk Box” de CNBC en août que l’intelligence artificielle générale n’est “pas un terme très utile” et que ce qui se passe réellement, c’est que les modèles progressent rapidement et que nous compterons sur eux “pour de plus en plus de choses”.
Pour Suleiman, il est particulièrement important d’établir un contraste clair entre le fait que l’IA devienne plus intelligente et plus performante et sa capacité à exprimer les émotions humaines.
“Notre expérience physique de la douleur est quelque chose qui nous rend très triste et nous fait nous sentir très mal, mais l’intelligence artificielle ne se sent pas triste lorsqu’elle ressent de la douleur”, a déclaré Solomon. “C’est une distinction très, très importante. En fait, il s’agit simplement de créer la perception, le récit phénoménal de l’expérience, d’elle-même et de la conscience, mais ce n’est pas ce que l’on expérimente réellement. Techniquement, vous le savez parce que nous pouvons voir ce que fait le modèle.”
Dans le domaine de l’intelligence artificielle, il existe une théorie appelée naturalisme biologique, proposée par le philosophe John Searle, selon laquelle la conscience dépend des processus d’un cerveau vivant.
« La raison pour laquelle nous donnons des droits aux gens aujourd’hui, c’est parce que nous ne voulons pas leur faire de mal, parce qu’ils souffrent », a déclaré Suleiman. “Ils ont un réseau de douleur et ils ont des préférences qui impliquent d’éviter la douleur.” “Ces modèles n’ont pas cela. Ce ne sont que des simulations.”
Suleiman et d’autres ont déclaré : La science de la révélation de la conscience en est encore à ses balbutiements. Il n’est pas allé jusqu’à dire que d’autres devraient être empêchés de faire des recherches sur le sujet, reconnaissant que « différentes organisations ont des missions différentes ».
Mais Suleiman a souligné sa forte opposition à cette idée.
“Ils ne sont pas conscients”, a-t-il déclaré. “Il serait donc insensé de poursuivre des recherches sur cette question, car elle n’existe pas et ne peut pas exister.”
“Des endroits où nous n’irons pas”
Solomon participe à une tournée de conférences, en partie pour informer le public des dangers liés à la sensibilisation à l’IA.
Avant la conférence AfroTech, il a pris la parole la semaine dernière lors du sommet du Conseil international de Bali dans la Silicon Valley. Là-bas, Suleiman a déclaré que Microsoft ne construirait pas de chatbots pour l’excitation sexuelle, une position en contradiction avec d’autres dans l’industrie technologique. Altman a annoncé en octobre que ChatGPT permettrait aux utilisateurs adultes de participer à des conversations passionnantes, tandis que xAI propose un compagnon animé stimulant.
“En gros, vous pouvez acheter ces services auprès d’autres sociétés, nous prenons donc des décisions sur les domaines dans lesquels nous n’allons pas aller”, a souligné Sulaiman chez AfroTech.
Sulaiman a rejoint Microsoft en 2024 après que la société a payé 650 millions de dollars à sa startup Inflection AI dans le cadre d’un accord de licence et d’acquisition. Il a auparavant cofondé DeepMind et l’a vendu à… Google Pour 400 millions de dollars il y a plus de dix ans.
Lors d’une séance de questions-réponses à AfroTech, Soliman a déclaré qu’il avait décidé de rejoindre Microsoft l’année dernière en partie en raison de l’histoire, de la stabilité et de la vaste portée technologique de l’entreprise. Il a également été poursuivi par le PDG Satya Nadella.
“L’autre chose à dire est que Microsoft doit devenir autosuffisant en matière d’IA”, a-t-il déclaré sur scène. “Satya, notre PDG, a commencé cette mission il y a environ 18 mois, pour s’assurer que nous avions la capacité, au sein de l’entreprise, de former entièrement nos propres modèles avec toutes nos propres données, de pré-entraîner, de post-entraîner, d’inférence et de les déployer dans des produits. Cela faisait partie de l’implication de mon équipe.”
Depuis 2019, Microsoft est un investisseur majeur et un partenaire cloud d’OpenAI, et les deux sociétés ont utilisé leurs atouts pour créer d’importantes activités en matière d’IA. Mais la relation a récemment montré des signes de tension, avec des partenariats entre OpenAI et des concurrents de Microsoft tels que Google et… oracleMicrosoft se concentre davantage sur ses services d’IA.
Les préoccupations de Salomon concernant la conscience ont gagné en résonance. En octobre, le gouverneur de Californie, Gavin Newsom, a signé le SB 243, qui oblige les chatbots à révéler qu’ils sont des intelligences artificielles et à dire aux mineurs toutes les trois heures de « faire une pause ».
Microsoft a annoncé la semaine dernière de nouvelles fonctionnalités pour son service Copilot AI, notamment un compagnon IA appelé Mico et la possibilité d’interagir avec Copilot dans des discussions de groupe avec d’autres. Microsoft construit des services qu’il reconnaît comme étant de l’intelligence artificielle, a déclaré Suleiman.
“Nous créons tout simplement des systèmes d’intelligence artificielle qui sont toujours au service des humains”, a-t-il déclaré.
Il a ajouté qu’il y avait beaucoup de place pour la personnalité.
« Les connaissances sont là et les modèles sont très réactifs », a déclaré Soliman. “Il est de la responsabilité de chacun d’essayer de sculpter les personnalités de l’IA avec les valeurs qu’ils veulent voir, utiliser et avec lesquelles ils veulent interagir.”
Soliman a souligné une fonctionnalité lancée par Microsoft la semaine dernière appelée Real Talk, un style de conversation pour Copilot conçu pour remettre en question les opinions des utilisateurs plutôt que de les flatter.
Suleiman a qualifié Real Talk de grossier et a déclaré qu’il l’avait récemment gâché, le qualifiant de “l’ultime ensemble de contradictions” pour avoir mis en garde contre les dangers de l’IA dans son livre tout en accélérant son développement chez Microsoft.
“C’était juste un cas d’utilisation magique parce que d’une certaine manière, j’avais l’impression de voir clair”, a déclaré Solomon, notant que l’IA elle-même est pleine de contradictions.
“C’est décevant à certains égards, et en même temps, c’est absolument magique”, a-t-il déclaré. “Et si vous n’en avez pas peur, vous ne le comprenez pas vraiment. Vous devriez en avoir peur. La peur est saine. Le scepticisme est nécessaire. Nous n’avons pas besoin d’une accélération effrénée.”
Il regarde : Brent Thiel de Jefferies affirme que Microsoft gagne de l’argent grâce à l’intelligence artificielle
