a16z : Pourquoi l'IA a-t-elle urgemment besoin de la technologie cryptographique ?
L'intelligence artificielle (IA) devient de plus en plus sophistiquée, mais sa sécurité et sa confidentialité restent des défis majeurs. La cryptographie offre des solutions essentielles pour protéger les données sensibles, garantir l'intégrité des modèles, et assurer la confiance dans les systèmes d'IA. En intégrant des techniques cryptographiques avancées, nous pouvons prévenir les attaques, sécuriser les échanges d'informations, et favoriser une adoption plus large et plus sûre de l'IA dans divers secteurs.

L’intelligence artificielle réduit considérablement le coût des opérations à grande échelle, mais rend la confiance difficile à établir, tandis que la technologie blockchain peut remodeler le système de confiance.

Article : a16z

Traduction : Chopper, Foresight News

Les systèmes d’intelligence artificielle sont en train de bouleverser l’internet conçu à l’origine pour l’échelle humaine, en abaissant au plus bas le coût de la collaboration et des transactions, et les voix, vidéos et textes générés deviennent de plus en plus difficiles à distinguer du comportement humain. Aujourd’hui, nous sommes déjà confrontés à des vérifications homme-machine, et à l’heure actuelle, les agents d’intelligence artificielle commencent à interagir et à échanger comme des humains.

La question clé n’est pas l’existence de l’intelligence artificielle, mais l’absence d’un mécanisme natif sur internet capable, tout en protégeant la vie privée et en garantissant la facilité d’utilisation, de différencier les humains des machines.

Et c’est précisément là que la technologie blockchain trouve sa place. La cryptographie contribue à créer de meilleurs systèmes d’intelligence artificielle, et inversement, l’IA peut renforcer la cryptographie — derrière cette idée se cachent de nombreuses logiques profondes ; ici, nous résumons plusieurs raisons pour lesquelles l’intelligence artificielle a aujourd’hui plus que jamais besoin de la blockchain.

Augmenter le coût de la contrefaçon par l’IA

L’intelligence artificielle peut falsifier la voix, les traits du visage, le style d’écriture, le contenu vidéo, voire créer des profils sociaux complets, et ce à grande échelle : un agent intelligent peut incarner des milliers de comptes, simuler différentes opinions, consommateurs ou électeurs, et le coût de cette opération continue de diminuer.

Ces méthodes de contrefaçon ne sont pas nouvelles : tout fraudeur malintentionné peut engager des doubleurs, falsifier des appels téléphoniques, envoyer des messages de phishing. La véritable évolution réside dans le coût : aujourd’hui, la barrière pour lancer à grande échelle ce type d’attaques frauduleuses a considérablement diminué.

Par ailleurs, la majorité des services en ligne supposent qu’« un compte correspond à un utilisateur réel ». Lorsque cette hypothèse est fausse, tout le système s’effondre. Les méthodes de détection (comme la vérification homme-machine) finiront inévitablement par échouer, car la vitesse d’évolution de l’IA dépasse largement celle des techniques de détection conçues spécifiquement pour elle.

Alors, comment la blockchain peut-elle jouer un rôle ? Un système décentralisé de preuve d’humanité ou d’identité numérique permet aux utilisateurs de réaliser une vérification unique de leur identité, tout en empêchant fondamentalement la création de multiples identités par une seule personne. Par exemple, scanner l’iris pour obtenir une identité globale peut être simple et économique, mais obtenir un second identifiant est presque impossible.

En limitant le nombre d’identifiants délivrés et en augmentant le coût marginal pour les attaquants, la blockchain rend difficile la contrefaçon à grande échelle par l’IA.

L’IA peut falsifier du contenu, mais la cryptographie empêche désormais de le faire à un coût très faible pour usurper l’unicité de l’identité humaine. La blockchain, en redéfinissant la rareté au niveau de l’identité, augmente le coût marginal de la contrefaçon tout en ne créant pas de friction supplémentaire pour l’usage normal des humains.

Construire un système décentralisé d’identification humaine

Une façon de prouver l’humanité est via une identité numérique, qui regroupe toutes les informations permettant de vérifier l’identité : nom d’utilisateur, identifiant personnel, mot de passe, ainsi que des preuves tierces (comme une carte d’identité, une crédibilité de crédit) et autres justificatifs.

Mais quelle valeur la cryptographie peut-elle ajouter ? La réponse est la décentralisation. Tout système d’identité centralisé au cœur d’internet peut devenir un point de défaillance du système entier. Lorsque des agents d’IA agissent au nom des humains pour effectuer des transactions, des communications ou des collaborations, celui qui contrôle la vérification d’identité détient en réalité le pouvoir de participation. Les émetteurs centralisés peuvent révoquer arbitrairement l’accès des utilisateurs, percevoir des frais, voire aider à la surveillance.

La décentralisation inverse complètement cette dynamique : ce sont les utilisateurs, et non la plateforme, qui contrôlent leurs informations d’identité, rendant ces identifiants plus sûrs et résistants à la censure.

Contrairement aux systèmes d’identité traditionnels, le mécanisme décentralisé d’identification humaine permet aux utilisateurs de gérer et de protéger eux-mêmes leurs données d’identité, tout en assurant la vérification de leur identité humaine de manière privée et totalement neutre.

Créer un « passeport numérique » portable pour les agents d’IA

Les agents d’IA ne dépendent pas d’une plateforme unique : un agent peut apparaître simultanément dans diverses applications de messagerie, conversations par email, appels téléphoniques, sessions de navigateur et interfaces API. Mais il n’existe actuellement aucun mécanisme fiable pour confirmer que ces interactions dans différents contextes proviennent du même agent d’IA, avec le même état, les mêmes capacités, et qui a été autorisé par le « propriétaire ».

De plus, si l’identité d’un agent d’IA est uniquement liée à une plateforme ou un marché spécifique, il ne pourra pas être utilisé dans d’autres produits ou scénarios importants. Cela entraîne une expérience fragmentée et une adaptation scénaristique laborieuse et inefficace.

Grâce à une couche d’identité basée sur la blockchain, il est possible de créer un « passeport numérique » portable pour les agents d’IA. Ces identifiants peuvent relier les capacités, les permissions et les informations de paiement de l’agent, et peuvent être vérifiés dans n’importe quel contexte, rendant la contrefaçon d’agents d’IA beaucoup plus difficile. Cela permet aussi aux développeurs de créer des agents d’IA plus pratiques, offrant une meilleure expérience utilisateur : l’agent peut fonctionner dans plusieurs écosystèmes sans être lié à une plateforme spécifique.

Réaliser des paiements à grande échelle

Alors que les agents d’IA effectuent de plus en plus de transactions au nom des humains, les systèmes de paiement existants deviennent un obstacle évident. Pour supporter des paiements à grande échelle, il faut une infrastructure nouvelle, capable de gérer de petites transactions provenant de multiples sources, via un système de micropaiements.

De nombreux outils basés sur la blockchain, tels que les solutions de scalabilité, les réseaux de seconde couche, les institutions financières natives à l’IA, et les protocoles d’infrastructure financière, montrent leur potentiel pour résoudre ce problème, permettant des transactions presque à coût zéro, et une division de paiement plus fine.

L’essentiel est que ces infrastructures de paiement blockchain peuvent supporter des transactions massives entre machines, y compris micropaiements, interactions à haute fréquence et échanges commerciaux entre agents, ce que les systèmes financiers traditionnels ne peuvent pas traiter.

• Les micropaiements peuvent être répartis entre plusieurs fournisseurs de données, via des contrats intelligents automatisés, déclenchant un paiement minime à chaque interaction utilisateur ;
• Les contrats intelligents permettent des paiements rétroactifs, exécutables de manière forcée, après une transaction, pour rémunérer les parties ayant fourni des informations pour la prise de décision, dans un processus totalement transparent et traçable ;
• La blockchain peut réaliser une répartition complexe et programmable des paiements, en utilisant des règles codées pour assurer une répartition équitable des revenus, sans dépendre d’une décision centralisée, établissant ainsi des relations financières de confiance entre agents autonomes.

Protéger la vie privée dans les systèmes d’IA

Un paradoxe réside au cœur de nombreux systèmes de sécurité : plus on collecte de données pour protéger l’utilisateur, plus il devient facile pour l’IA de usurper l’identité de l’utilisateur.

Dans ce contexte, la protection de la vie privée et la sécurité deviennent deux faces d’une même pièce. Le défi consiste à faire en sorte que le système d’identification humaine par défaut intègre la confidentialité, en dissimulant toutes les informations sensibles à chaque étape, pour que seul un vrai humain puisse fournir les éléments nécessaires à la vérification de son identité.

En combinant la blockchain avec la technologie de preuve à divulgation zéro (ZKP), il est possible pour l’utilisateur de prouver certains faits, comme un identifiant personnel, un numéro de carte d’identité ou une qualification, sans révéler les données sous-jacentes (par exemple, l’adresse sur le permis de conduire).

Ainsi, l’application peut obtenir la vérification nécessaire, tandis que l’IA est privée des données brutes nécessaires à la contrefaçon. La protection de la vie privée n’est plus une fonction accessoire, mais la ligne de défense essentielle contre la contrefaçon par l’IA.

Résumé

L’intelligence artificielle réduit considérablement le coût des opérations à grande échelle, mais rend la confiance difficile à établir. La technologie blockchain peut remodeler le système de confiance : augmenter le coût de la contrefaçon, préserver le mode d’interaction à l’échelle humaine, réaliser une identité décentralisée, donner naissance à un système d’identification portable pour l’IA, permettre des paiements massifs, et assurer la sécurité de la vie privée. Si nous voulons construire un internet où les agents d’IA peuvent fonctionner normalement sans détruire la confiance, alors la blockchain n’est pas une option, mais la technologie fondamentale pour bâtir un internet natif de l’IA, la pièce manquante du puzzle actuel.