Fritz Lang avec son Maschinenmensch dans Metropolis, Stanley Kubrick avec HAL dans 2001 : L'Odyssée de l'espace, Isaac Asimov dans sa série Robots ou Philip K. Dick dans Les androïdes rêvent-ils de moutons électriques ?, le film de 1983 WARGAME Film, tous ont cherché à nous avertir : l’essor d’une intelligence artificielle consciente représente une menace existentielle pour l’humanité. Vous pouvez les concevoir avec les meilleures intentions ou pour résoudre un problème, mais même en contrôlant les paramètres, des failles logiques finissent par émerger. On ne peut tout simplement pas contrôler les conséquences dans les méta-systèmes complexes. Encore moins lorsque l’on ne comprend pas pleinement pourquoi ils fonctionnent.

L’AGI intégrée aux modèles de langage est censée devenir une réalité d’ici la fin de 2025. Tout comme l’imprimerie et Internet ont provoqué des transformations sans précédent du destin humain, ce météore culturel pourrait bouleverser notre monde. Des professions comme le droit, les ressources humaines, la vidéographie, l’écriture, la comptabilité et même le développement informatique—les agents du fisc comme les fraudeurs—pourraient bientôt devenir obsolètes. Personne, parmi ceux qui construisent ces modèles, ne sait précisément ce qu’il faitLes modèles statistiques échappent à la compréhension humaine ; ils sont trop éloignés de la structure de l’esprit humain. Tout ce que l’on sait, c’est que it works.

L’IA est bien plus efficace que les humains pour ingérer un corpus de documents, elle peut parcourir une multitude de sites web en quelques heures, prédire statistiquement les passions humaines instantanées en consommant les API des réseaux sociaux et dans la foulée rédiger des plans de communication pour les contrer. Outils de décision gouvernementale. pre-cogs militaires.Une dictature parfaite.

Nous avons finalement atteint le point où tout le matériel d'entrainement généré par l'homme a été consommé. Les opérateurs de LLM n'ont pas d'autre choix que de continuer à les former sur des ensembles de données synthétiques, essentiellement des données générées par d'autres LLM. Tout comme en génétique, la consanguinité conduit à l'effondrement de l'évolution, et l' Effondrement des modèles d’IA : Les AGI débiles sont à nos portes. Que va-t-il se passer si elles alimentent des prises de décisions importantes ?

Bientôt ces IA seront des systèmes d'exploitation entiers qui liront vos intentions. Un système d’exploitation « avec une âme », comme ils disent. Ce système lira dans vos pensées, anticipera chacun de vos mouvements, des mouvements que vous n'apprendrez plus à faire vous-même. Rapidement, plus personne ne saura comment executer. Les sociétés d'IA détiendront la clé API de votre vie. Que pensez-vous qu'il adviendra si elles cessent de fournir des services ?

Nous aurons acquis notre propre obsolescence, à un prix inestimable.

Sommes-nous des doomers? Oui et non.
Nous sommes des hackers.
Les pirates informatiques sont une espèce particulière: montrez-leur une carte et ils déchiffreront ce qui se trouve au dos. L'image du recto est évidente et explicite, mais le verso peut cacher un tour de magie ou le secret d'un tricheur de casino.

C'est peut-être pour cela que la culture hacker a toujours été remplie d'anarchistes, de paranoïaques, de marginaux et de génies. On ne peut pas avoir l'avant sans l'arrière, du moins pas dans une dimension N=3 (à l'exception notable du Ruban de Möbius ). La technologie ne nous impressionne pas, nous la contrôlons. Les enjeux financiers ne nous intimident pas, nous restons l'ultime minorité.

Nous aimons les machines – et nous les détestons.

Nous sommes des hackers.