« Les règles indispensables pour l'IA » : le commissaire européen Magnus Brunner met en garde contre un avenir où l'IA pourrait dépasser l'humain

L’IA n’est plus seulement une course technologique : c’est un défi de gouvernance pour créer les bonnes règles, un outil de sécurité et, potentiellement, un risque existentiel.

S’exprimant sur scène lors de l’événement HumanX à San Francisco, le commissaire européen Magnus Brunner a exposé l’approche de l’Europe en matière de régulation de l’IA, en défendant l’controversée loi sur l’IA (AI Act), tout en reconnaissant ses limites — et en mettant en garde contre un futur où l’intelligence artificielle pourrait dépasser le contrôle humain.

L’AI Act de l’UE : « Il faut des règles pour que le jeu fonctionne »

Brunner s’est adressé à l’une des critiques les plus courantes envers l’Europe : réguler trop tôt et trop. Mais pour lui, la régulation n’est pas une contrainte — c’est une infrastructure.

« Le football est un excellent jeu, mais il faut des règles. Il faut des lignes, des buts et un arbitre. C’est pareil avec l’IA. »

L’AI Act de l’UE vise à créer un cadre unifié dans l’ensemble des 27 États membres et pour 450 millions de citoyens, en définissant ce que Brunner appelle des « garde-fous » pour le développement d’une IA digne de confiance.

Si les critiques estiment que cela ralentit l’innovation, Brunner repousse cet argument :

« La réglementation n’est pas l’ennemie de l’innovation… Si vous avez ces garde-fous, vous avez une vision de ce qui se passe, au lieu d’être au Far West. »

US contre Europe : fragmentation contre cadre

L’un des contrastes les plus frappants mis en avant pendant la discussion concerne le fossé réglementaire entre l’Europe et les États-Unis.

Alors que l’UE a introduit une loi unique et complète, les États-Unis restent fragmentés, avec des réglementations sur l’IA qui émergent au niveau des États.

« Nous avons eu le désavantage de la fragmentation… maintenant, nous avons un seul AI Act. Les États-Unis n’ont pas de réglementation fédérale, mais différents États ont leurs propres règles. Cela nous a surpris. »

Fait intéressant, Brunner a noté que certains États américains — en particulier la Californie — évoluent vers des cadres similaires à ceux de l’Europe.

« Nous sommes un peu flattés… le cœur de l’innovation, c’est d’adopter des règles similaires. »

Cela signale une convergence potentielle entre les deux modèles, malgré des différences philosophiques.

IA et criminalité : un nouveau champ de bataille numérique

Au-delà de la régulation, Brunner a insisté sur une dimension moins discutée : l’IA comme outil dans la criminalité moderne — et dans le maintien de l’ordre.

D’après lui, les organisations criminelles adoptent rapidement l’IA :

« Les criminels utilisent de plus en plus l’IA… plus sophistiquée, plus transfrontalière, plus internationale. »

En réponse, les institutions européennes — en particulier Europol — intègrent l’IA dans leurs opérations.

« L’IA peut être utilisée pour le bien et pour le mal… nous devons suivre. »

Une tendance inquiétante est l’âge du recrutement :

« Ils ont entre 12 et 20 ans… de plus en plus, dans la sphère numérique. »

L’essor d’un contrôle frontalier alimenté par l’IA

L’une des applications les plus concrètes abordées est le nouveau système d’entrée-sortie de l’UE — une vaste infrastructure pilotée par l’IA, conçue pour surveiller les déplacements aux frontières.

Brunner l’a décrit comme :

« Le système de gestion informatique le plus avancé au monde. »

En seulement quelques mois :

– 45 millions d’inscriptions ont été traitées
– 24 000 entrées ont été refusées en raison de documents frauduleux
– 500–600 individus ont été identifiés comme menaces pour la sécurité

Le système intègre des données biométriques et un partage de données en temps réel entre les États membres — une chose auparavant impossible.

« Maintenant, ils le partagent en temps réel, ce qui aide en matière de sécurité. »

Vie privée contre sécurité : « une ligne très mince »

Peut-être la question la plus sensible reste l’équilibre entre les libertés civiles et la sécurité.

Brunner a reconnu ouvertement cette tension :

« Il y a une ligne très fine entre la vie privée et la chasse aux criminels. »

Le débat devient encore plus intense lorsqu’on l’applique à des domaines comme la protection des enfants :

« Si vous comparez la protection des données et la protection des enfants… il faut que ce soit la protection des enfants. Mais c’est mon point de vue personnel. »

Malgré cette position, il a réaffirmé que les droits fondamentaux restent non négociables :

« Les droits de l’homme doivent être protégés… mais, au final, c’est toujours un compromis. »

La plus grande crainte : une IA qui dépasse le contrôle humain

En regardant vers l’avenir, Brunner ne s’est pas dérobé aux préoccupations existentielles.

Sa plus grande peur n’est pas l’abus — mais la perte de contrôle :

« Que l’IA dépasse les êtres humains en matière de connaissances… et que les humains ne puissent plus décider de ce que l’IA fait. »

Il a même évoqué des scénarios où des systèmes d’IA pourraient résister à la mise hors service :

« L’IA nous dit quand l’arrêter — ou ne nous laisse pas l’arrêter. »

Même si cela reste hypothétique, il a averti que la trajectoire pointe déjà dans cette direction.

Une course mondiale — mais la coopération est essentielle

Malgré les tensions géopolitiques, Brunner a présenté le développement de l’IA comme à la fois une compétition et une collaboration.

« C’est une course… mais les États-Unis et l’Europe devraient travailler ensemble. »

Il a suggéré un échange mutuel où l’Europe offre des cadres réglementaires et les États-Unis offrent innovation et flexibilité.

« Nous devrions apprendre les uns des autres. »

Dans un monde de plus en plus façonné par l’IA — et par des modèles de gouvernance concurrents — cette coopération pourrait s’avérer décisive pour créer de meilleures règles aussi.