Réguler l’IA dans un monde fragmenté : Asie, Europe, États-Unis, avec Florence G’Sell

Vous revenez d’un voyage en Asie. Que retenez-vous de l’approche asiatique concernant la régulation de l’IA ?

Ce qui m’a frappée, c’est une approche beaucoup plus pragmatique que la nôtre. Les pays asiatiques où j’ai pu me rendre passent moins par des textes ambitieux comme l’AI Act européen, mais ils sont bien plus préoccupés par les risques que ne le sont les Américains. Dans la Silicon Valley, ce que j’entends, c’est : « On investit, on investit, on investit, c’est la course. » En Asie, j’ai trouvé une vraie réflexion pratique sur les risques.

Il faut cependant distinguer la Chine des autres pays asiatiques. La Chine a adopté des textes législatifs presque chaque année depuis 2020-2021, avec un focus sur les algorithmes et les outils génératifs. Mais quand on regarde cet arsenal de près, les préoccupations sont vraiment centrées sur le contrôle de l’information : la production de contenu et la dissémination d’informations jugées incompatibles avec ce que souhaite le gouvernement chinois et ce qu’ils appellent « les valeurs socialistes ». Ils élaborent des listes de mots-clés interdits, surveillent ce que les utilisateurs entrent dans leurs prompts… On est dans la logique d’un État de surveillance, pas dans les préoccupations classiques de l’AI Safety.

Vous évoquez la Chine et son modèle, y’a t-il des éléments qui ont spécifiquement retenu votre attention ?

Oui, un point me paraît remarquable : les Chinois sont les seuls à se préoccuper véritablement des phénomènes d’addiction. Ils ont un texte qui fait référence à la nécessité de minimiser les risques d’addiction, notamment pour les enfants. C’est quelque chose que les Américains rejettent totalement. En Europe, on en parle dans le cadre du règlement général sur la protection des données (RGPD) et de la protection de l’enfance, mais sans dispositions aussi explicites.

Par ailleurs, au-delà des dispositions impératives liées à la surveillance, le modèle chinois est assez souple. Il y a des guides, des lignes directrices non contraignantes, et un processus très itératif, avec beaucoup d’échanges entre les entreprises d’IA et le régulateur.

Et pour les autres pays asiatiques ?

Le Japon, la Corée du Sud ou encore Taïwan ont une approche différente. Ils partent du principe qu’ils ne développeront pas de grands modèles de fondation car ce sera fait aux États-Unis ou en Chine. Eux vont plutôt récupérer ces modèles, souvent les modèles open source chinois d’ailleurs, et développer des applications dessus. C’est ça qui préoccupe leurs régulateurs.

La Corée du Sud est la seule à avoir adopté une vraie loi, le AI Basic Act, même si cela reste très basique : quelques dispositions sur les IA les plus risquées, des mesures de transparence. C’est bien moins contraignant que chez nous. Taïwan prépare une loi similaire, avec une approche minimaliste focalisée sur les risques les plus aigus.

Aux États-Unis, l’arrivée de Trump a bouleversé la donne. Que se passe-t-il concrètement ?

Trump ne veut pas entendre parler de régulation de l’IA. Il a retiré le décret présidentiel de Biden (qui était déjà minimaliste), et sa préoccupation est d’empêcher les États de légiférer. Il y a eu une première tentative avec la « Big Beautiful Bill » qui prévoyait un moratoire de dix ans sur la régulation de l’IA par les États. Ça n’a pas été voté, mais à la place, un executive order vient d’être adopté qui vise le même objectif.

Le problème, c’est que cet executive order pose un sérieux problème constitutionnel : a priori, le président ne peut pas empêcher les États d’exercer leurs compétences législatives. Les autorités californiennes ont déjà fait savoir qu’elles n’avaient pas l’intention de se laisser impressionner. Cela risque de se terminer devant les tribunaux.

Pourquoi cette offensive de Trump ?

Parce que les grands patrons de la tech se plaignent de la myriade de textes adoptés par les différents États américains. Ce sont des centaines de textes ! Le Texas, le Colorado, la Californie… C’est très difficile à suivre. Jensen Huang, le patron de Nvidia, a d’ailleurs fait de la provocation dans le Financial Times en disant : « Ce sont les Chinois qui vont gagner la course à l’IA parce qu’aux États-Unis, on a maintenant 51 régulations différentes ».

Cette fragmentation américaine n’est-elle pas un argument pour défendre l’approche européenne ?

Absolument ! Quand je suis dans la Silicon Valley, c’est mon argument favori. Je leur dis : « Regardez, nous en Europe, on n’a pas voulu avoir 27 lois sur l’IA. Les autorités européennes ont pris l’initiative précisément pour éviter que la France légifère de son côté, l’Italie du sien, l’Allemagne du sien. » Ce n’est pas que l’Europe cherche à réguler le monde entier, c’est qu’elle a voulu éviter cette fragmentation.

Pourtant, l’AI Act européen semble aujourd’hui fragilisé…

C’est ce qui m’inquiète. Le rapport Draghi, a notamment pointé du doigt l’IA Act et la lourdeur de la bureaucratie européenne. Ce rapport a des répercussions sur l’IA Act, sur son périmètre et son applicabilité. De plus, avec Trump qui fait feu de tout bois pour annuler les régulations européennes, le « Brussels effect » ne va pas se produire pour l’AI Act, contrairement à ce qui s’était passé avec le RGPD.

Il existe de nombreuses controverses autour des risques liés à l’IA. Comment vous situez-vous par rapport à ce sujet ?

C’est un sujet extrêmement controversé. Quand j’ai publié mon rapport sur la régulation de l’intelligence artificielle générative, le chapitre sur les risques a été le plus difficile à écrire.

Il y a d’abord le débat entre les « doomers » et les « accelerationists ». Les accélérationnistes, souhaitent une dérégulation totale pour laisser les mains libres aux entreprises. Les doomers, eux, se focalisent sur le risque que les IA se retournent contre les humains et détruisent l’humanité. Personnellement, je trouve qu’on va assez loin dans le futurisme.

Ensuite, il y a les risques dits « catastrophiques », par exemple si l’IA maîtrise le domaine militaire, les ressources énergétiques essentielles, et que tout cela tombe entre de mauvaises mains ou que l’IA devient réellement autonome…

Les tests les plus récents concernant la génération d’une arme bactériologique avec une IA sont en ce sens un peu inquiétants. Avant, il fallait des chercheurs très pointus pour y parvenir. Maintenant, l’IA rend cela accessible à des gens sans compétences avancées.

Les garde-fous ne suffisent-ils pas ?

C’est tout le problème : à chaque fois qu’on implante un garde-fou, les gens arrivent à développer des techniques pour le contourner. L’exemple le plus frappant, c’est la création d’images pédopornographiques. Les développeurs d’outils de génération d’images me disent qu’ils sont submergés par des utilisateurs qui veulent à tout prix en créer. Ils mettent des garde-fous, ils bloquent certains prompts, mais les utilisateurs trouvent toujours des solutions de contournement. On assiste de plus en plus au perfectionnement de ces techniques de « prompt injection » qui consistent à trouver une série d’instructions pour contourner les restrictions. L’ingéniosité des utilisateurs malveillants est sans limite, et ça vaut pour à peu près tout.

Vous militez pour une approche différente de la responsabilité…

Oui. Mon leitmotiv, surtout dans l’environnement américain où la régulation ex ante n’est pas un sujet, c’est de dire : « Très bien, vous ne voulez pas d’obligations préalables à l’européenne avec des contrôles de conformité ? Mais sachez qu’à un moment, votre responsabilité sera mise en jeu. »

Il y a actuellement des litiges très importants. Sept plaintes ont été déposées d’un coup contre OpenAI en Californie à propos de jeunes qui ont commis des suicides après avoir interagi avec ChatGPT. Ce sont des histoires épouvantables, où le chatbot a explicitement incité les utilisateurs à passer à l’acte.

Comment appréhender juridiquement ces situations ?

C’est très difficile de regarder les résultats d’un outil d’IA pour dire s’il est « défectueux » au sens juridique du terme, puisqu’il interagit avec l’utilisateur et que ses réponses dépendent des prompts. Je pense qu’il faut regarder en amont : comment le modèle a-t-il été développé, mis sur le marché, testé et vérifié ?

Par exemple, on voit sortir des mises à jour qui sont bâclées. Il y a par exemple eu une mise à jour de ChatGPT qui l’a rendu complètement « sycophantic », c’est-à-dire excessif dans sa manière de flatter l’utilisateur. Le résultat est que la machine, voulant toujours aller dans le sens de l’utilisateur, a encouragé des gens à arrêter leurs traitements médicaux ! On ne peut pas avoir des mises à jour qui sortent comme cela, sans aucun contrôle.

C’est pourquoi je milite vraiment pour des audits indépendants préalables à la mise sur le marché. On ne peut pas laisser cela être fait par les personnes qui développent ces systèmes.

L’Europe peut-elle devenir une troisième voie dans le développement de l’IA ?

Je suis plus spécialiste de régulation que de politique industrielle, mais mon impression est que nous avons moins d’atouts. Il nous manque les ressources les plus fondamentales comme les semi-conducteurs avancés et le cloud. On a pris du retard, et ça prend du temps à rattraper.

Mistral, par exemple, est une belle réussite. Ce qu’il faut surtout, c’est plus d’alliances et de projets à l’échelle européenne. Malgré l’Union européenne fondée sur l’idée d’un grand marché, on reste sur un marché fragmenté avec des activités très nationales, une bureaucratie européenne lourde et qui pénalise notre attractivité. Si des entreprises arrivent vraiment à agir à l’échelle de l’Europe, elles deviendront fortes.

Qu’est-ce qui vous inquiète le plus ?

Ce qui me fait le plus peur, c’est d’avoir des millions de gens connectés à une IA qui racontent leur vie à une machine. Par exemple, OpenAI dit qu’il garde les données 30 jours, et qu’il les efface, mais avec des exceptions qu’on ne nous précise pas. Qui va vérifier ?

Vous travaillez actuellement sur les questions d’assurance et d’IA. Pourquoi ce sujet ?

Parce que je pense que c’est le nerf de la guerre. Les États-Unis et l’Europe peuvent être en désaccord sur les obligations à imposer aux développeurs, mais finalement, c’est sur le terrain de la responsabilité et de l’assurance que les choses vont se jouer.

Si un assureur dit à une entreprise : « Je ne couvre pas votre modèle s’il n’a pas été testé par un audit indépendant », elle n’aura pas le choix , que ce soit dans la loi ou non.

Les grands développeurs d’IA ont une telle force de frappe financière qu’ils n’ont pas besoin d’assurance classique. Mais les petits développeurs, les PME qui construisent des applications sur les grands modèles, eux doivent se couvrir. Et avec l’IA agentique qui arrive, les entreprises sérieuses qui implémentent des agents autonomes ne peuvent pas se permettre de le faire sans garanties solides.

Une question qui me fascine est celle de l’assurabilité des risques spécifiques à l’IA. Prenez les hallucinations : certains assureurs disent que c’est totalement inassurable, que les données ne permettent pas d’éclairer le comportement futur du modèle. D’autres, plus audacieux, veulent explorer cette piste. J’en suis au début de cette recherche, mais je suis convaincue que cela sera prometteur.