a16z：¿Por qué la inteligencia artificial (IA) necesita urgentemente la tecnología de cifrado? La protección de datos, la privacidad y la seguridad en los sistemas de IA son fundamentales para garantizar que la información sensible esté segura y que los algoritmos funcionen de manera confiable. A medida que la IA se integra más en nuestras vidas, la criptografía se vuelve esencial para prevenir accesos no autorizados, manipulación y garantizar la confianza en estas tecnologías emergentes.

La inteligencia artificial reduce significativamente los costos de las operaciones a gran escala, pero hace que la confianza sea difícil de establecer, mientras que la tecnología blockchain puede redefinir el sistema de confianza.

Artículo: a16z

Traducido por: Chopper, Foresight News

Los sistemas de inteligencia artificial están revolucionando la internet diseñada originalmente para escala humana, reduciendo los costos de colaboración y transacción a niveles históricos, y generando voces, videos y textos cada vez más difíciles de distinguir del comportamiento humano. Hoy en día, ya estamos siendo afectados por la verificación humano-máquina, y actualmente, los agentes de inteligencia artificial comienzan a interactuar y comerciar como humanos.

La cuestión clave no es la existencia de la inteligencia artificial, sino que internet carece de un mecanismo nativo que, al tiempo que protege la privacidad y garantiza la facilidad de uso, pueda distinguir entre humanos y máquinas.

Y aquí es donde entra en juego la tecnología blockchain. La criptografía ayuda a crear sistemas de inteligencia artificial más avanzados, y a la inversa, la IA puede potenciar la criptografía, con muchas lógicas profundas detrás; aquí resumimos varias razones por las cuales la inteligencia artificial ahora necesita más que nunca blockchain.

Aumentar el costo de la suplantación por parte de la inteligencia artificial

La inteligencia artificial puede falsificar voces, características faciales, estilos de escritura, contenido de videos e incluso crear perfiles sociales completos, y puede hacerlo a escala: un solo agente puede representar a miles de cuentas, simulando diferentes opiniones, consumidores o votantes, y el costo de estas operaciones sigue bajando.

Estas formas de suplantación no son nuevas: cualquier estafador con intención siempre puede contratar actores de doblaje, falsificar llamadas o enviar correos de phishing. La verdadera innovación está en el costo: hoy en día, la barrera para realizar ataques de fraude a gran escala ha bajado drásticamente.

Al mismo tiempo, la mayoría de los servicios en línea asumen que “una cuenta corresponde a un usuario real”. Cuando esta premisa no se cumple, todo el sistema colapsa. Los métodos de detección (como la verificación humano-máquina) están destinados a fallar, ya que la velocidad de evolución de la inteligencia artificial supera con creces las tecnologías de detección diseñadas específicamente para ella.

Entonces, ¿cómo puede la blockchain jugar un papel? Los sistemas descentralizados de prueba de identidad o verificación de humanos permiten a los usuarios completar una única verificación de identidad de manera sencilla, pero eliminan fundamentalmente la posibilidad de múltiples identidades por persona. Por ejemplo, escanear la retina para obtener una identificación global puede ser simple y económico, pero obtener una segunda identificación sería casi imposible.

Al limitar la cantidad de identidades emitidas y aumentar el costo marginal para los atacantes, la blockchain hace que las operaciones de suplantación a escala por parte de la inteligencia artificial sean mucho más difíciles.

La IA puede falsificar contenido, pero la criptografía impide que pueda falsificar la identidad única humana a bajo costo. La blockchain, al redefinir la escasez en la capa de identidad, aumenta el costo marginal de la suplantación sin añadir obstáculos adicionales para el uso normal por parte de los humanos.

Construir un sistema descentralizado de verificación de identidad humana

Una forma de demostrar la identidad humana es mediante una identidad digital que abarque toda la información que las personas pueden usar para verificar su identidad: nombre de usuario, código de identificación personal, contraseña, además de pruebas de terceros (como documentos de identidad, calificaciones crediticias) y otros certificados relacionados.

¿Y qué valor aporta la criptografía? La respuesta es la descentralización. Cualquier sistema de identidad centralizado en el núcleo de internet puede convertirse en un punto único de fallo. Cuando los agentes de IA actúan en nombre de los humanos para realizar transacciones, comunicaciones y colaboraciones, quien controle la verificación de identidad, en realidad, controla la participación. Los emisores centralizados pueden revocar permisos, cobrar tarifas o incluso colaborar en actividades de vigilancia.

La descentralización invierte completamente esta dinámica: los usuarios, en lugar de los plataformas, controlan su propia información de identidad, haciendo que la identificación sea más segura y resistente a la censura.

A diferencia de los sistemas tradicionales de identidad, los mecanismos descentralizados de prueba de humanos permiten a los usuarios gestionar y proteger su información de identidad de forma autónoma, y realizar la verificación de identidad humana de manera que proteja la privacidad y sea completamente neutral.

Crear un “pase digital” portátil y universal para agentes de IA

Los agentes de inteligencia artificial no dependen de una sola plataforma: un solo agente puede aparecer en aplicaciones de chat, correos electrónicos, llamadas telefónicas, sesiones en navegadores y APIs. Pero actualmente no existe un mecanismo confiable para confirmar que estas interacciones en diferentes escenarios provienen del mismo agente de IA con el mismo estado, capacidades y autorización del “propietario”.

Además, si la identidad del agente de IA está vinculada solo a una plataforma o mercado, no podrá usarse en otros productos o escenarios importantes. Esto fragmenta la experiencia de uso del agente y hace que la adaptación a diferentes contextos sea laboriosa y poco eficiente.

Con una capa de identidad basada en blockchain, se puede crear un “pase digital” portátil y universal para los agentes de IA. Estas identidades pueden vincular las capacidades, permisos y detalles de pago del agente, y ser verificadas en cualquier escenario, dificultando en gran medida la suplantación de agentes de IA. Esto también permite a los desarrolladores crear agentes de IA más útiles y ofrecer una mejor experiencia de usuario: los agentes pueden operar en múltiples ecosistemas sin preocuparse por estar ligados a una plataforma específica.

Facilitar transacciones de pago a escala

A medida que los agentes de IA representan cada vez más a los humanos en transacciones, los sistemas de pago existentes se convierten en un cuello de botella evidente. Los pagos a gran escala de agentes inteligentes requieren infraestructura completamente nueva, capaz de gestionar microtransacciones de múltiples fuentes.

Actualmente, muchas herramientas basadas en blockchain, como soluciones de escalado, redes de segunda capa, instituciones financieras nativas de IA y protocolos de infraestructura financiera, muestran potencial para resolver este problema, permitiendo transacciones casi sin costo y una división de pagos más precisa.

Lo clave es que estas infraestructuras de pago en blockchain puedan soportar transacciones a escala de máquinas, incluyendo micro pagos, interacciones de alta frecuencia y transacciones comerciales entre agentes, que los sistemas financieros tradicionales no pueden manejar.

• Los micropagos pueden dividirse entre múltiples proveedores de datos, y mediante contratos inteligentes automáticos, una sola interacción del usuario puede desencadenar pagos pequeños a todos los proveedores relevantes;
• Los contratos inteligentes soportan pagos retroactivos basados en transacciones completadas, que pueden ser ejecutados de forma forzosa, para compensar a quienes proporcionaron información para decisiones de compra, en un proceso completamente transparente y rastreable;
• La blockchain puede realizar distribuciones de pagos complejas y programables, asegurando una distribución justa de beneficios mediante reglas codificadas, sin depender de decisiones centralizadas, y estableciendo relaciones financieras de confianza cero entre los agentes autónomos.

Proteger la privacidad y seguridad en sistemas de IA

El núcleo de muchos sistemas de seguridad presenta una paradoja: cuanto más datos se recopilan para proteger a los usuarios, más fácil es para la IA suplantar la identidad del usuario.

En este contexto, la protección de la privacidad y la seguridad se convierten en la misma cuestión. El desafío es hacer que los sistemas de verificación de identidad humana tengan por defecto atributos de protección de privacidad, ocultando información sensible en todas las etapas, y asegurando que solo los humanos reales puedan proporcionar la información necesaria para verificar su identidad.

Los sistemas basados en blockchain combinados con tecnologías de pruebas de conocimiento cero (zero-knowledge proofs) permiten a los usuarios demostrar hechos específicos, como códigos de identificación personal, números de identidad o estándares de calificación, sin revelar los datos subyacentes (como la dirección en la licencia de conducir).

De esta forma, las aplicaciones pueden obtener la verificación necesaria, mientras que los sistemas de IA quedan privados de los datos originales necesarios para la suplantación. La protección de la privacidad deja de ser una función adicional y se convierte en la línea de defensa principal contra la suplantación por IA.

Resumen

La inteligencia artificial reduce significativamente los costos de operaciones a gran escala, pero hace que la confianza sea difícil de construir. La tecnología blockchain puede redefinir el sistema de confianza: elevando el costo de la suplantación, preservando la interacción a escala humana, logrando un sistema de identidad descentralizado, haciendo de la protección de la privacidad una configuración predeterminada, y dotando a los agentes de IA de restricciones económicas nativas.

Si queremos construir una internet en la que los agentes de IA puedan operar normalmente sin destruir la confianza, entonces blockchain no es una opción, sino la tecnología fundamental para crear una internet nativa de IA, y la pieza clave que actualmente falta en la internet.