"Ces derniers mois ont marqué un véritable tournant": Microsoft dévoile des modèles d'IA soumis à des "contraintes absolues", qui ne pourront jamais mener de cyberattaques ou produire des armes nucléaires
Microsoft a publié lundi un code de conduite pour le développement de son intelligence artificielle, visant à créer une IA qui reste contrôlée par les humains et leur bénéficie, sur fond de crainte de dérives de cette technologie.
Ce document "est motivé par un seul objectif prépondérant", explique le groupe de Redmond, à savoir "que les humains conservent un contrôle significatif sur l'IA afin d'aider les gens à mener une vie meilleure, plus heureuse et plus productive".
L'IA va dépasser l'humain "durant la prochaine décennie"
Cette publication survient deux jours après l'appel du patron d'Anthropic Dario Amodei à ralentir le rythme de développement de l'IA pour mieux en encadrer les risques.
Son message a été soutenu publiquement par son homologue d'OpenAI Sam Altman, ainsi que le président de Google DeepMind Demis Hassabis et Elon Musk, patron du laboratoire d'IA SpaceXAI.
À la différence de ces entreprises, Microsoft ne possède pas de modèle parmi les plus avancés du secteur, même s'il a accéléré ses lancements cette année et dit rester ambitieux.
"Durant la prochaine décennie", développe le groupe, "nous nous attendons à ce que l'IA surpasse les performances humaines pour la plupart des tâches."
Dès lors, ajoute-t-il, "contenir, contrôler et aligner (ces modèles sur des valeurs humaines) est l'un des plus grands défis auxquels l'humanité ait jamais fait face".
Des "contraintes absolues" pour éviter le pire
Un nombre croissant de professionnels du secteur s'inquiètent notamment de l'arrivée de l'amélioration récursive autonome (RSI), un processus qui voit l'IA s'améliorer elle-même, sans intervention humaine.
Microsoft explique que ses systèmes disposent de "contraintes absolues" interdisant notamment les cyberattaques, la fabrication d'armes nucléaires et la production de deepfake. Ils disposent aussi de plusieurs garde-fous permettant d'éviter une perte générale du contrôle humain.
"Nos modèles n'utiliseront pas de mécanismes adaptatifs, trompeurs, auto-renforcés, de collusion ou d'autres mécanismes visant à convaincre ou échapper à la surveillance humaine afin qu'ils ne puissent plus être dirigés, modifiés ou fermés de manière fiable par des personnes ou des systèmes autorisés," ajoute le document.
"C'est urgent. Ces derniers mois ont marqué un véritable tournant", a déclaré, sur X, Mustafa Suleyman, responsable de l'IA chez Microsoft. "Des choses qui nous préoccupaient depuis longtemps en théorie sont devenues très concrètes."
Le responsable a évoqué les multiples incidents lors desquels, tant chez OpenAI que chez Anthropic, des IA sont sorties spontanément de leur milieu confiné pour aller sur internet et hacker des sites et plateformes.