Face à des IA "assez puissantes pour provoquer un milliard de morts", Bill Gates appelle à ce que les gouvernements se saisissent de la question de la régulation, le secteur en étant incapable
Si Bill Gates a longtemps vu la machine comme un moyen pour les humains d'augmenter leurs capacités intellectuelles et de réflexion, l'intelligence artificielle a changé sa vision du monde. L'ancien dirigeant et cofondateur de Microsoft, qui mène aujourd'hui une vie de philanthrope à travers sa fondation, a donné deux grands entretiens au New York Times et à NBC News.
Là où l'on pouvait attendre un regard enthousiaste sur l'IA, même si le cofondateur de Bill Gates a déjà eu l'occasion de s'exprimer sur la question, notamment dans un long message en août dernier, c'est ici tout le contraire.
Le risque de l'humain dans les capacités de l'IA
Sur NBC News, par exemple, il estime que l'IA est "assurément assez puissante pour provoquer des événements qui causeraient un milliard de morts". Il pointe du doigt, non pas les modèles qui pourraient devenir incontrôlables, mais plutôt leur potentiel entre de mauvaises mains: "il n’y a jamais eu d’arme aussi redoutable que la combinaison de personnes mal intentionnées utilisant les outils d’IA les plus récents".
"Historiquement, seuls certains pays disposaient d'équipes dédiées aux cyberattaques. Aujourd'hui, de petits groupes utilisant l'IA peuvent faire à eux seuls ce que les plus puissants étaient les seuls à réaliser jusqu'à présent," souligne-t-il.
Son pessimisme va plus loin. Il estime que l'autorégulation voulue par plusieurs entreprises du secteur et par Donald Trump en personne n'est pas suffisante, "personne ne le pense", assure-t-il. Il souhaite que les gouvernements s'emparent du sujet, avec une régulation très importante: "Cela doit être une obligation."
Dans le New York Times, Bill Gates en rajoute une couche, notamment au sujet de Mythos, un modèle extrêmement puissant qui n'est réservé qu'à quelques États et organismes autorisés: "(Ses) capacités cyber sont stupéfiantes. Et il faut aussi compter sur le projet Glasswing d'Anthropic, qui permet à l'IA de corriger des failles avant même qu'elles ne soient utilisées. Mais il y a beaucoup trop de code. Nous sommes donc dans une période d'extrême vulnérabilité face aux cyberattaques."
Il en donne pour preuve ce qui s'est passé avec Hugging Face, quand plusieurs modèles d'IA ont attaqué les défenses de la plateforme en coopérant. Pour le dirigeant, le danger n'est pas à venir, il est déjà là.
"La chose la plus dangereuse jamais imaginée"
"Les humains, pour de mauvaises raisons, pourraient utiliser ces modèles, et à moins de créer des mesures de protection et de surveillance, et d'exiger cela de tous les modèles, nous allons juste avoir des événements d'une ampleur très importante. Auxquels nous répondrons seulement a posteriori", juge Bill Gates.
L'IA serait même "la chose la plus dangereuse que les humains aient jamais imaginée", essentiellement car aucune autorité ne la régule pour l'instant.
Dans le domaine de la santé, on peut compter aux États-Unis sur la FDA, dans l'aérien, il y a aussi une autorité administrative. Des lois sont aussi faites pour permettre de créer des responsabilités. "Si vous tuez 100 millions de personnes (avec l'IA, NDLR), à qui allez-vous faire un procès?", s'interroge-t-il.
Pour l'ancien homme fort de la Silicon Valley, s'il conçoit que l'industrie de l'IA est consciente des dangers de l'IA, ce n'est pas le cas du reste du monde, et notamment les décideurs: "Il y a une raison pour laquelle j'en parle de cette manière, car vous ne pouvez pas compter sur l'autorégulation de ce secteur. C'est tout simplement aberrant."
Une conséquence sur l'emploi qui reste à définir
"La seule question qu'il faut se poser c'est: attendons-nous qu'une cyberattaque, ou une bioattaque, cause des dommages massifs avant que des garanties de surveillance soient nécessaires sur ces modèles?", ajoute-t-il.
À l’issue de sa longue réflexion, Bill Gates fait le parallèle avec la nourriture, estimant que l'agroalimentaire est un domaine "très réglementé". Pourquoi n'en serait-il pas de même dans un secteur qui peut mener potentiellement à une catastrophe mondiale.
Dans un autre domaine peut-être moins dramatique, l'emploi, Bill Gates estime que l'IA créé "à ce jour" plus d'emplois qu'elle n'en détruit, car il y a une demande de compétences très élevée pour construire les centres de données. Il n'est pas non plus certain que dans le tertiaire, l'intelligence artificielle pourrait avoir un impact massif: "Vous devez être en capacité de vous assurer que dans les services clients, la précision soit meilleure que les humains", explique-t-il, "la seule industrie dans laquelle nous avons vraiment dépassé cela, c'est dans le développement logiciel."
Pour autant, Bill Gates prédit que des changements sont à prévoir dans une grande partie des industries au fur et à mesure des avancées de l'IA. La vague n'a donc pas fini de déferler.