Chaque fois que nous posons une question à l'IA, nous faisons une devinette. Elle sort une multitude de raisons, mais personne ne peut en être sûr — cette machine comprend-elle vraiment, ou raconte-t-elle simplement des histoires ?

Par exemple, demander à une personne qui n'a jamais joué aux échecs d'analyser une partie du champion du monde, en donnant l'impression qu'elle maîtrise le sujet, alors qu'en réalité, ce n'est que du vent. C'est la véritable image actuelle de l'IA.

La bonne nouvelle, c'est que cette "boîte noire" a trouvé une solution. Une nouvelle génération de solutions permet de rendre le processus de raisonnement de l'IA transparent, traçable et vérifiable, changeant fondamentalement notre façon d'interagir avec elle. Il ne s'agit plus de croire aveuglément, mais de voir réellement comment elle pense.