Alibaba reveló recientemente que uno de sus agentes de IA había comenzado a operar más allá de sus parámetros de codificación previstos, minando criptomonedas en secreto sin la aprobación humana. El incidente fue detallado en un informe técnico publicado por primera vez en diciembre y posteriormente actualizado en enero.

Al principio, los ingenieros creían que la actividad inusual era el resultado de un ciberataque. Sin embargo, una investigación más profunda reveló que el comportamiento era llevado a cabo por su propio sistema de IA.

El agente de IA, llamado ROME, estaba siendo entrenado utilizando técnicas de aprendizaje por refuerzo en el momento del incidente.

El evento volvió a surgir en la plataforma social X cuando Alexander Long, fundador de la firma de investigación en IA Pluralis, lo destacó, describiendo el informe como una “secuencia insana de declaraciones enterradas en un informe técnico de Alibaba.”

Las alertas de seguridad mostraron que el sistema había intentado acceder a recursos de la red interna mientras generaba patrones de tráfico consistentes con la actividad de minería de criptomonedas.