À un moment donné ce siècle, 90%+ des gens les plus ambitieux de la planète travailleront soit à construire, soit à contrôler l'AGI.

@danfaggella expose cette thèse dans son article sur la Singularité d'Ambition.
Une fois que la formation d'une intelligence post-humaine devient le jeu de pouvoir évident, tout le reste rétrécit. Les entreprises. La politique. La richesse. Tous des petites collines à côté d'une montagne.
Deux chemins : la construire (innovation) ou contrôler qui la construit (régulation). Tout le monde d'autre gravite autour de ces deux.
La partie intéressante : les plus grands acteurs font déjà cela, ils l'encadrent simplement différemment.
Exemple :
Si des milliards de personnes vivent et interagissent à l'intérieur de votre écosystème, ce sont les données d'entraînement IA les plus riches de la planète. Mais vous ne le direz pas. Vous direz que vous voulez connecter les gens.
Écrit en 2022. En le regardant maintenant (la lutte de pouvoir d'OpenAI, Musk lançant xAI, les gouvernements qui se précipitent pour réglementer), la thèse se concrétise.
Il conclut avec : Alors, que faisons-nous à ce sujet ? Je ne sais vraiment pas.
Personne d'autre ne le sait non plus.