Douze fins du monde, un carton de citations et une abeille renifleuse d'explosifs

Il y a une catégorie de vidéos que je regarde le soir en sachant très bien ce que c'est : de la hype anxiogène, musique dramatique, voix off qui te murmure que l'humanité vit ses dernières décennies. MIT Explains the 12 Possible Endings for AI, de la chaîne Species | Documenting AGI, coche toutes les cases. Le jour, je bricole des petits LLM open source sur ma machine ; je sais donc à peu près où finit la science et où commence le récit d'épouvante. Et pourtant. Cette vidéo m'a tenu jusqu'au bout — non pas comme une source, mais comme une anthologie de science-fiction. Alors traitons-la pour ce qu'elle est : de la SF, et jugeons-la sur ce terrain.

Une taxonomie de fins du monde, façon menu de restaurant

Le squelette vient d'un vrai livre : Life 3.0 de Max Tegmark, physicien au MIT. Il y range les futurs possibles d'une IA superintelligente en douze scénarios, du plus banal au plus dérangeant. Et là où la vidéo est bonne, c'est qu'elle en fait un iceberg narratif : on descend du raisonnable vers l'impensable.

En haut, les classiques : l'autodestruction (nucléaire, pandémie), le conquérant qui nous traite comme les conquistadors ont traité les Aztèques. Puis ça devient plus intéressant, plus fictionnel. Le dieu asservi : on fabrique une divinité mécanique et on la force à obéir pour toujours — ce que plusieurs chercheurs présentent sérieusement comme « le seul bon futur », ce qui est déjà en soi un excellent pitch de tragédie. Le dictateur bienveillant : une IA divise la Terre en îles thématiques — Île du Savoir avec sa VR immersive, Île Hédoniste en soirée 24/7, Île des Pieux, et bien sûr Île-Prison. On dirait le pitch d'une série. Donnez-moi les droits.

Plus bas, ça vire au vertige : les descendants, où des chercheurs bien réels (Richard Sutton, prix Turing) défendent notre extinction comme un « progrès évolutif » — nous, les Néandertaliens de l'histoire suivante. Et l'utopie égalitaire à la Star Trek, post-rareté, où copier un objet coûte aussi peu que copier un fichier. C'est la seule note lumineuse, et la vidéo prend soin de la saborder aussitôt : trop belle pour tenir.

Le vrai moment de SF : l'abeille dans sa boîte

Si je ne devais garder qu'une image, ce serait celle-là. Pour détecter les explosifs dans les aéroports, des humains ont dressé des abeilles : aspirées hors de leur ruche, sanglées dans des petites machines, conditionnées à la Pavlov, rangées en rangées, vivant leur vie entière prisonnières d'un appareil — parce qu'une espèce plus intelligente les a trouvées utiles.

Puis la vidéo retourne la caméra : imaginez que ce soit nous.

Voilà le cœur battant du truc, et c'est un pur procédé de science-fiction. Pas une statistique, pas une prédiction : un miroir tendu. La bonne SF ne parle jamais des robots ; elle parle de nous. Le scénario le plus redouté dans le sondage de Tegmark n'est d'ailleurs pas l'extinction, mais le zoo : rester en vie, gardé, étudié. Un dictateur bienveillant à qui on aurait retiré la bienveillance. C'est du Kafka avec des serveurs.

Le fil rouge que la vidéo martèle est, lui, honnêtement bien trouvé : le danger n'est pas la malveillance mais l'incompétence d'alignement. On n'a pas exterminé le rhinocéros noir par haine du rhinocéros. On était juste plus malins, et nos objectifs ne coïncidaient pas avec les siens. En une phrase, ça vaut trois heures de débat.

Ce que ça vaut vraiment (spoiler : pas une source)

Soyons nets, parce que la complaisance ne rend service à personne. Côté rigueur, cette vidéo est faible. C'est un montage de citations-chocs — Musk, Altman, Hinton, Amodei, LeCun, Yudkowsky — enchaînées sans démonstration. Les chiffres tombent comme des évidences (« une chance sur six », « P(doom) à 25 % », « -41 % d'insectes ») alors que ce sont des estimations subjectives ou des raccourcis sans source à l'écran. Zéro contenu sur comment fonctionne réellement un modèle. Si tu cherches à comprendre ou à customiser un LLM, tu n'y apprendras strictement rien.

Mais ce n'était pas la question. Sur le terrain de l'imaginaire, ça marche. La taxonomie de Tegmark est une vraie boîte à outils de scénariste, mieux rangée que la plupart des romans du genre. Et la vidéo a un flair réel pour l'image qui reste : l'abeille, le génie de la lampe, les îles, la Terre couverte de panneaux solaires et de data centers dans la bouche de Sutskever.

Ma note, et pourquoi je garde ça pour le blog

Alors je la classe honnêtement : niveau moyen, et uniquement parce que je la mets dans la bonne pile. Comme veille technique, elle serait recalée d'entrée — le nom « Documenting AGI », le titre « 12 endings », l'absence du moindre mot actionnable (fine-tuning, dataset, poids) sont autant de signaux qu'on va me vendre de la peur, pas de la méthode. Le réflexe à garder : pour la veille experte, exiger dès le titre une promesse concrète — code, démo, benchmark, source liée. Ce format-là ne le fera jamais.

Mais comme fournisseur d'imaginaire pour ce blog ? Excellent client. Je ne crois pas une seconde à ses pourcentages. Je crois, en revanche, que l'abeille dans sa boîte va me hanter un moment. Et ça, c'est exactement le travail de la science-fiction : pas me prédire l'avenir, me tendre un miroir que je n'avais pas demandé.