a16z : Pourquoi l'IA a-t-elle urgemment besoin de la technologie cryptographique ?
L'intelligence artificielle (IA) devient de plus en plus sophistiquée, mais sa sécurité et sa confidentialité restent des défis majeurs. La cryptographie offre des solutions essentielles pour protéger les données sensibles, garantir l'intégrité des modèles, et assurer la confiance dans les systèmes d'IA. En intégrant des techniques cryptographiques avancées, nous pouvons prévenir les attaques, sécuriser les échanges d'informations, et favoriser une adoption plus large et plus sûre de l'IA dans divers secteurs.

Rédaction : a16z

Traduction : Chopper, Foresight News

Les systèmes d’intelligence artificielle sont en train de bouleverser l’internet conçu à l’origine pour l’échelle humaine, réduisant les coûts de collaboration et de transaction à des niveaux historiquement bas, et rendant les voix, vidéos et textes générés de plus en plus difficiles à distinguer du comportement humain. Aujourd’hui, nous sommes déjà confrontés à des défis liés à la vérification humaine-machine, et à l’heure actuelle, les agents d’intelligence artificielle commencent à interagir et à échanger comme des humains.

La question clé ne réside pas dans l’existence de l’intelligence artificielle, mais dans le fait que l’internet manque d’un mécanisme natif capable de distinguer les humains des machines tout en protégeant la vie privée et en assurant la facilité d’utilisation.

C’est précisément là que la technologie blockchain trouve sa place. La cryptographie contribue à créer des systèmes d’intelligence artificielle plus performants, et inversement, l’IA peut renforcer la cryptographie — une idée soutenue par de nombreuses logiques profondes. Ici, nous résumons plusieurs raisons pour lesquelles l’intelligence artificielle a aujourd’hui plus que jamais besoin de la blockchain.

Augmenter le coût de la contrefaçon par l’IA

L’intelligence artificielle peut falsifier la voix, les traits du visage, le style d’écriture, le contenu vidéo, voire créer des profils sociaux complets, avec une capacité à opérer à grande échelle : un seul agent peut incarner des milliers de comptes, simulant différentes opinions, consommateurs ou électeurs, et le coût de cette opération continue de diminuer.

Ces méthodes de contrefaçon ne sont pas nouvelles : tout fraudeur malintentionné peut engager des acteurs pour la voix, falsifier des appels, envoyer des courriels de phishing. La véritable évolution réside dans le coût : aujourd’hui, la mise en œuvre massive de telles attaques frauduleuses voit ses barrières considérablement abaissées.

Par ailleurs, la majorité des services en ligne partent du principe qu’« un compte correspond à un utilisateur réel ». Lorsque cette hypothèse est invalidée, tous les systèmes qui en découlent s’effondrent. Les méthodes de détection (comme la vérification humain-machine) finiront inévitablement par échouer, car la vitesse d’évolution de l’IA dépasse largement celle des techniques de détection conçues spécifiquement pour elle.

Alors, comment la blockchain peut-elle jouer un rôle ? Un système décentralisé de preuve d’humanité ou d’identité numérique permet aux utilisateurs de réaliser une vérification d’identité unique, tout en éliminant fondamentalement la possibilité d’avoir plusieurs identités pour une même personne. Par exemple, scanner l’iris pour obtenir une identité globale peut être simple et économique, mais il est presque impossible d’obtenir une seconde identité.

En limitant le nombre d’identifiants délivrés et en augmentant le coût marginal pour les attaquants, la blockchain rend difficile la mise en œuvre à grande échelle de contrefaçons par l’IA.

L’IA peut falsifier du contenu, mais la cryptographie empêche désormais de reproduire à faible coût l’unicité de l’identité humaine. La blockchain, en redéfinissant la rareté au niveau de l’identité, augmente le coût marginal des contrefaçons tout en n’imposant pas de résistance supplémentaire à l’usage légitime par les humains.

Construire un système décentralisé de preuve d’identité humaine

Une façon de prouver l’humanité est via une identité numérique, qui regroupe toutes les informations permettant de vérifier l’identité : nom d’utilisateur, code d’identification personnel, mot de passe, ainsi que des preuves tierces (comme une carte d’identité, une crédibilité financière) et autres justificatifs.

Mais quelle valeur la cryptographie peut-elle ajouter ? La réponse est la décentralisation. Tout système d’identité centralisé au cœur de l’internet peut devenir un point de défaillance pour l’ensemble du système. Lorsqu’un agent d’IA agit au nom de l’humain pour effectuer des transactions, communiquer ou collaborer, celui qui contrôle la vérification d’identité détient en réalité le pouvoir de participation. Les émetteurs centralisés peuvent révoquer arbitrairement l’accès des utilisateurs, facturer des frais, ou même aider à la surveillance.

La décentralisation bouleverse complètement cette configuration : ce sont les utilisateurs, et non la plateforme, qui contrôlent leurs informations d’identité. Cela rend l’identité plus sûre et résistante à la censure.

Contrairement aux systèmes d’identité traditionnels, le mécanisme décentralisé de preuve humaine permet aux utilisateurs de gérer et de conserver eux-mêmes leurs données d’identité, tout en assurant la protection de la vie privée et une vérification neutre et indépendante.

Créer un « passeport numérique » portable pour les agents d’IA

Les agents d’IA ne dépendent pas d’une plateforme unique : un seul agent peut apparaître dans diverses applications de messagerie, conversations par email, appels téléphoniques, sessions de navigateur et interfaces API. Mais il n’existe actuellement aucun mécanisme fiable pour confirmer que ces interactions dans différents contextes proviennent du même agent d’IA, avec le même état, les mêmes capacités, et sous le contrôle de leur « propriétaire ».

De plus, si l’identité d’un agent d’IA est liée à une seule plateforme ou marché, il ne pourra pas être utilisé dans d’autres produits ou scénarios importants. Cela entraîne une expérience fragmentée et une adaptation scénarisée inefficace.

Grâce à une couche d’identité basée sur la blockchain, il est possible de créer un « passeport numérique » universel et portable pour les agents d’IA. Ces identifiants peuvent relier les capacités, les permissions et les informations de paiement de l’agent, et être vérifiés dans n’importe quel contexte, rendant la contrefaçon d’agents d’IA beaucoup plus difficile. Cela permet aussi aux développeurs de créer des agents d’IA plus pratiques, offrant une meilleure expérience utilisateur : ces agents peuvent fonctionner dans plusieurs écosystèmes sans être liés à une plateforme spécifique.

Réaliser des paiements à grande échelle

Alors que les agents d’IA représentent de plus en plus souvent des humains dans des transactions, les systèmes de paiement existants deviennent un obstacle évident. Les paiements à grande échelle pour ces agents nécessitent une infrastructure nouvelle, capable de gérer de petites transactions provenant de multiples sources, via un système de micropaiements.

De nombreux outils basés sur la blockchain, tels que les solutions de scalabilité, les réseaux de seconde couche, les institutions financières natives à l’IA, et les protocoles d’infrastructure financière, montrent leur potentiel pour résoudre ce problème, permettant des transactions presque sans coût, et une division de paiement plus fine.

L’essentiel est que ces infrastructures de paiement blockchain peuvent supporter des transactions massives entre machines, y compris les micropaiements, les interactions à haute fréquence, et les échanges commerciaux entre agents, ce que les systèmes financiers traditionnels ne peuvent pas traiter.

Les micropaiements peuvent être répartis entre plusieurs fournisseurs de données, via des contrats intelligents automatisés, déclenchant de petites paiements à chaque interaction utilisateur ;

Les contrats intelligents permettent des paiements rétroactifs, exécutés de manière forcée, après une transaction, pour rémunérer ceux qui ont fourni des informations pour la prise de décision, dans une transparence totale et une traçabilité complète ;

La blockchain permet une répartition complexe et programmable des paiements, en appliquant des règles codées pour assurer une répartition équitable des revenus, sans dépendre d’une décision centralisée, établissant ainsi des relations financières de confiance entre agents autonomes.

Protéger la vie privée dans les systèmes d’IA

Un paradoxe existe dans de nombreux systèmes de sécurité : plus ils collectent de données pour protéger l’utilisateur, plus il devient facile pour l’IA de falsifier l’identité de l’utilisateur.

Dans ce contexte, la protection de la vie privée et la sécurité deviennent une seule et même problématique. Le défi consiste à faire en sorte que les systèmes d’identité humaine intégrant la blockchain disposent par défaut de propriétés de confidentialité, en dissimulant les informations sensibles à toutes les étapes, pour que seul un vrai humain puisse fournir les données nécessaires à la vérification de son identité.

En combinant la blockchain avec la technologie de preuve à connaissance zéro, il est possible pour l’utilisateur de prouver certains faits, comme un code d’identification personnel, un numéro de carte d’identité ou une qualification, sans divulguer les données sous-jacentes (par exemple, l’adresse sur le permis de conduire).

Ainsi, l’application peut obtenir la vérification d’identité requise, tandis que l’IA est privée des données brutes nécessaires à la contrefaçon. La protection de la vie privée devient non pas une fonction supplémentaire, mais la ligne de défense essentielle contre la falsification par l’IA.

Résumé

L’intelligence artificielle réduit considérablement le coût des opérations à grande échelle, mais rend la confiance difficile à établir. La technologie blockchain peut remodeler le système de confiance : augmenter le coût des contrefaçons, préserver le mode d’interaction à l’échelle humaine, réaliser une décentralisation des identités, faire de la protection de la vie privée une norme par défaut, et doter les agents d’IA de contraintes économiques natives.

Si nous voulons construire un internet où les agents d’IA peuvent fonctionner normalement sans détruire la confiance, alors la blockchain n’est pas une option, mais la technologie fondamentale pour bâtir un internet natif à l’IA, une pièce maîtresse manquante de l’internet actuel.