Cada vez que hacemos una pregunta a la IA, estamos jugando a adivinar. Ella lanza un montón de razones, pero nadie puede estar seguro: ¿esta máquina realmente entiende o solo está hablando tonterías?

Por ejemplo, hacer que alguien que nunca ha jugado al ajedrez explique una partida del campeón mundial, y que lo haga con toda la confianza del mundo, en realidad no es más que tontería. Esa es la verdadera imagen actual de la IA.

La buena noticia es que este "enigma de la caja negra" tiene una solución. Una nueva generación de soluciones está haciendo que el proceso de razonamiento de la IA sea transparente, rastreable y verificable, cambiando fundamentalmente la forma en que interactuamos con ella. Ya no se trata de confiar ciegamente, sino de entender realmente cómo piensa.