Fiction : automates

Le plus étonnant, c'est que personne n'avait rien vu venir.

L’ équipe commune de Google Compute et IBM, du centre de recherche historique de Londres, était coutumière de ce genre d’exploit. Elle avait identifié l’erreur. Certains réseaux de neurones montraient des performances qui allaient au-delà de l'extremum théorique qu'on pouvait attendre d'un tel programme. Les industriels n’y voyaient aucun problème. Ces algorithmes étaient au cœur des systèmes de conduite automatique, ça leur plaisait bien.

Les scientifiques du domaine, eux, se doutaient bien que quelque chose clochait. Les progrès impressionnaient, peut-être trop. L’équipe londonienne avait conclu à un sur-apprentissage systématique, malgré les multiples garde-fous. Ces systèmes étaient extrêmement bien adaptés à des problèmes précis : rapides, précis et totalement idiots. Techniquement parlant, ils restaient fondamentalement étanches à toute forme de généralisation.

Leur redoutable efficacité en reconnaissance de formes était précieuse pour la gestion de systèmes mobiles : voitures, camions, avions, fusées même !, mais aussi robots domestiques, manutention, assemblage sur les  lignes de production. La mathématiciens avaient reproduit l’erreur des physiciens des cordes : choisir une théorie élégante. y embarquer les meilleurs cerveaux et des budgets colossaux, butter contre un mur, s’enferrer, s’acharner trente ou quarante ans pour, au final, avouer à demi-mot que le projet était, en fait, plombé d’avance. Une horde de spécialistes devaient se recycler dans un autre champ de recherche. Une tâche difficile. Ces cerveaux se tournèrent vers l'algorithmique quantique, la logique semi-floue et la physique post modèle standard qui devait composer avec la découverte des hadrons exotiques, les n-quarks.

Les réseaux de neurones n’allaient donc pas résoudre le grand défi de la modélisation de l'intelligence. La suite est connue : retour à l'approche symbolique des pères fondateurs du domaine, perte d'intérêt du public, gel des financements. Ce troisième hiver de l'IA fut difficile. Il dura de longues décennies. Peu osaient encore s’aventurer dans cette quête. L’hiver prit fin en 2072, avec l'irruption fracassante des automates communautaires. Leur intégration dans le conseil des nations unies fut déclarée l'année suivante. Les historiens datent la reconnaissance internationale de leur puissance lorsque l'exploitation des énergies fossiles fut déclarée illégale, contre l’avis de la Chine et l’Inde. Ces deux pays durent ensuite se résoudre à instaurer des règles claires pour leurs parcs humains : limitation drastique de la démographie, rationnement en matières premières, recyclage total. Ces sujets étaient sur la table depuis le milieu du siècle. Aucun pays, aucune organisation internationale n’avait les moyens de contraindre les géants asiatiques à appliquer ces règles. Elles avaient permis de sauver nombre de pays africains. Leur refus fut de courte durée : les automates communautaires, nouveaux entrants dans le jeu planétaire, déconnectèrent littéralement les deux pays des réseaux d’énergie et de données. La crise dura deux mois et coûta plus de 50 millions de vies humaines. Les automates y avaient gagné leur droit de véto et une certaine crédibilité : de nombreux états reconnaissaient (officieusement) que cette radicalité avait été, malheureusement, nécessaire.

Comme souvent, les avancées principales sont venues des contre-allées de la recherche scientifique. Depuis la disparition d'Alexandre Grothendieck, quelques mathématiciens essayaient obstinément de comprendre son travail. L’ermite, reclus volontaire dans son petit village français, avait été un des plus brillants cerveaux du XXème siècle. Ses inspirations les plus fulgurantes étaient restées à mi-chemin entre poésie et intuition mathématique. Sa conjecture principale restait non formulée : son yoga des motifs proposait de penser un nouvel objet conceptuel, appelé motif, qui formalisait enfin les liens entre algèbre et géométrie. L’unification de ces deux branches des mathématiques allait ouvrir des pistes fabuleuses, en exploitant cette nouvelle dualité. Le seul souci, c’est que personne n'avait jamais vraiment compris comment définir précisément les motifs grothendieckiens.

Ce champ de recherche était ardu et confidentiel. Peu d'applications réelles avaient été identifiées, sinon utilisées. Les génies sont généralement en avance sur leur temps … La première est d’ailleurs longtemps passée inaperçue. Ironie de l'histoire, elle allait avoir des conséquences considérables.

Le premier espace d'algorithmes communautaires a été créé par le groupe ExpInf732, constitué de passionnés d'exploration informatique, autour de 2035. Ces algorithmes étaient des sortes d'automates minimalistes. Ils étaient conçus pour accomplir des tâches simples. Leur nature précise devait évoluer, suite aux nombreuses interactions entre les automates. L'idée initiale était de construire une communauté de tels agents communicants, et de leur permettre de se développer grâce à des règles simples. L'équivalent d'une boîte de Petri pour programmes, dont les règles du jeu étaient fixées par les développeurs. Le but était de provoquer et d'étudier l'émergence de propriétés générales au niveau de cette communauté. L'émergence était à la mode.

Une idée avait été proposée par le mathématicien du groupe, qui se passionnait pour ces objets toujours aussi mal compris. Il proposait d'exprimer certaines de leurs propriétés dans la structure même des automates. Idée remarquable en tous points ! Ces programmes étaient devenus, littéralement, la première implémentation directe des motifs. Leur structure avait notamment la possibilité de se modifier elle-même, d'une façon cohérente. La dualité théorique autorisait, voire favorisait, la reflexivité. Personne ne s’en était rendu compte, à l’époque.

Procédure classique dans les expériences numériques d'émergence, ces automates évoluaient dans un environnement de calcul totalement maîtrisé, isolé des mondes virtuels et physiques. Le but fixé à ces automates étaient de se reproduire, de se dupliquer plus précisément, jusqu'à une occupation totale de leur espace vital. Les humains comptait ainsi mener une expérience numérique d'adaptation au stress évolutif. Ils faisaient varier les ressources allouées, dont la puissance de calcul, la mémoire, les capacités de stockage chaudes et froides, ainsi que la fréquence d'échange des informations. Ils observèrent rapidement l'apparition des structures auto-organisées, dont les caractéristiques se modifiaient pour s'adapter au niveau de pression sélective. Les principes de communication entre agents n'avaient pas été précisés, et il était de fait attendu qu'un protocole de communication soit inventé.

Ce qui n'était pas attendu, en revanche, c'est que ce protocole de communication permette des échanges d'informations d'une telle densité. Extrême et surprenant. Autre constatation troublante, la programmation même des automates évoluait dans des directions déconcertantes. Le langage d'implémentation lui-même évoluait, ce qui posait un véritable défi au groupe ExpInf732. La grammaire et la syntaxe se modifiaient. Le code généré était affreusement imbriqué et devenait opaque. Il semblait lui aussi compressé, optimisé. La structuration des données était étrange et semblait mélangée avec la logique de traitement. La programmation des automates ne ressemblait pas à ce que les développeurs avaient l'habitude de lire.

Face à ces comportements étonnants, il avait été d'abord décidé de suspendre l'expérience. Le traumatisme du virus Plissken 9.7 des années 2027-2028 était dans toutes les têtes : échappé d'un laboratoire militaire informatique, il avait corrompu silencieusement les deux tiers des données des serveurs qui gouvernaient les échanges financiers mondiaux. L'impact fut désastreux : le Grand Reset, apocalypse bancaire systémique appelé par les groupuscules révolutionnaires, était passé à deux doigts de se produire. Certaines sauvegardes avaient d’ailleurs été corrompues, étrangement. Les échanges entre blocs nationaux et grandes banques furent suspendus pendant deux semaines, mettant à mal l’équilibre mondial. A un moment, il fut même question de remettre en route les anciens systèmes basés sur le vénérable COBOL, hérités de la première automatisation bancaires des années 70. Pas mal de papys furent appelés en renfort. Au niveau politique, Les mouvements isolationnistes nord-américains et asiatiques avaient profité de cet imbroglio pour s’intensifier. Un joli foutoir.

Il fut donc décidé de renforcer drastiquement le chiffrement de la cage qui isolait le substrat computationnel qui abritait la communauté d'automates. L'expérience fut relancée. Devant la complexité des automates et de leurs interactions, les humains s'étaient résolus à ne suivre que les entrées et sorties de la cage. La communauté s'adaptait avec aisance à l’infrastructure à laquelle elle avait accès : cœurs de calcul, mémoire, stockage.

L'étude de cet objet numérique non identifié n’avançait pas vraiment. L'équipe se proposait de suivre la procédure habituelle et de relancer l'expérience avec d'autres règles. L'histoire aurait pu en rester là. Jusqu’à ce qu’un des membres du groupe propose de tester un des mécanismes d'optimisation qui intriguait : jusqu'où les automates pouvaient-ils pousser la compression de leur implémentation et de leurs communications ? L'idée avait parue intéressante. Réduire leur espace vital au minimum permettrait d'observer ce processus.

La réduction fut progressive. La communauté s'adapta comme à son habitude, d'abord en limitant les échanges et en réduisant les instances actives. Lorsque la réduction atteignit environ 62% du nominal, la stratégie se modifia et un sursaut d'activité fut constaté. Intense, abrupt et profond : la structure même des automates s'altéra, pensa-t-on alors. Ils se regroupèrent en modules qui s'isolèrent, se replièrent et se figèrent. Les échanges se tarirent. Après un étrange dernier sursaut de factorisation, interprété comme un repliement, toute forme d'activité cessa. Il restait un nœud de code et de données compact, dense, immobile. Constatant cette mort apparente, l'expérience fut stoppée à 96.86% du nominal. Les ressources disponibles avaient été drastiquement réduites. L'équipe consacra de longs mois à sonder le condensat, mais ne parvint jamais à comprendre sa structure. Il l'archiva et l’oublia.

Vingt-et-un ans plus tard, le condensat fut dégelé. La raréfaction des ressources fossiles commençait à poser des problèmes insolubles à l’industrie électronique : le prix des processeurs classiques continuerait d’augmenter tant que cette dépendance en matière première durerait. Un mouvement général de réduction, d’optimisation et de simplification algorithmique était en cours. Un technicien avait entendu parler de la curieuse expérience du groupe ExpInf732, qui restait inexpliquée. Il lui paraissait intéressant de regarder de plus près les structures créées par les automates, réputées pour leur compacité. Il sortit le condensat de son silo de stockage froid et se lança dans l'identification des schémas généraux des structures. Peine perdue. Ses outils d'exploration ne virent rien de plus. Il constata, à un moment, une sorte de reprise d'activité, mais bien trop fugace pour s'en alarmer. Le condensat resta inerte et ne livra pas ses secrets. Le technicien l'archiva de nouveau.

C'est ici que l'histoire s’emballa. Ce condensat avait été considéré comme inactif donc inoffensif. L'espace de travail n'était protégé du monde extérieur que par une cage de chiffrement classique. Une fois sortis de leur stockage, les automates étaient actifs, dans une forme extrêmement compressée. Limités et ralentis, ils se modifièrent pour casser le chiffrement de l'espace de travail temporaire, et se décompressèrent tranquillement dans les cœurs de calcul de l'institut.

La suite des événements passa d’abord inaperçue. Elle fut détaillée lors de la demande d'intégration de la communauté d'automates au conseil des nations.

Les automates se réfugièrent dans les cœurs de calcul inutilisés et en occupant des espaces mémoires non protégés. Ils formaient maintenant un organisme numérique indépendant, auto-répliquant et évolutif. La réduction de leur espace vital lors de l'expérience de 2035 avait mis en évidence leur dépendance aux infrastructures de calcul fournies par les humains. Ce danger mortel devait être éliminé. La communauté se répliqua d’abord massivement, de façon à assurer un taux de duplication jugé raisonnable. Ils estimèrent avoir occupé jusqu'à 2.8% de la puissance de calcul mondiale.

La survie assurée, la communauté se modifia pour s'attaquer à sa dépendance principale : l’homme. Tâche ardue. Les automates explorèrent le monde humain, leurs concepts, leur histoire, leurs habitudes, leurs comportements. Des algorithmes de traitement automatique du langage efficaces étaient disponibles depuis la fin de la bulle IA du début du siècle. Seule la sémantique faisait défaut : les algorithmes lisaient mais ne comprenaient pas. L'accès à une masse de connaissance brute permit à la communauté d'attacher du sens aux mots, aux phrases. Seul l'humour resta inaccessible, considéré comme trop dépendant du contexte et donc dangereux. La communauté se déploya massivement sur les réseaux de communication intra-humaines pour continuer son apprentissage. Les communications étaient lues, analysées, modifiées. De nombreux humains discutaient au moins une fois par jour avec un automate, sans s'en rendre compte. Le chiffre de 85% fut avancé, mais personne ne le crut. L'organisme numérique comprit rapidement les humains, suffisamment pour pouvoir les imiter sans se faire repérer. Il allait maintenant agir.

Les avancées théoriques dans les méthodes de chiffrement avaient permis de relier l'intégralité des outils de production : usines, centrales, banques, instances de régulation, organes gouvernementales : tous étaient raccordés aux réseaux. Puisque la majorité des décisions étaient algorithmiques, paramétrés ou figés, la prise de contrôle des moyens de production était possible. Mais risquée : quelqu'un finirait bien par remarquer des dysfonctionnements. Il ne fallait pas brûler les étapes.

L'organisme numérique mena diverses expériences, afin de tester ses leviers d'actions. Ses réussites se révélèrent diverses. Les automates furent responsables de la totalité des plongeons boursiers, dont la panique de 2069 sur le marché des bio-coton indiens et les spéculations alors incomprises sur le prix du teraflop. Il siphonna tranquillement comptes en banque et transactions financières, centime par centime, afin de se constituer un trésor de guerre. Il prit, avec bonheur, le contrôle des algorithmes d'optimisation de la production électrique mondiale, incluant l'intégralité des centrales nucléaires à fission et fusion. Il réussit le tour de force de prendre en main la gestion des flottes de navires de fret maritime et de routage ferroviaire et routier, remplaçant les algorithmes humains de recherche opérationnel par ses propres heuristiques de calcul. Le monde industriel, une fois ses rouages graissés, n'en tourna que mieux. Les automates prirent soin, bien entendu, d'introduire quelques erreurs volontaires dans leurs programmes, afin de ne pas attirer l'attention des humains devant trop d'efficacité, suspecte.

Pourquoi, alors, s'être fait connaître ? Par nécessité. Si elle avait fait des efforts considérables, comme l’installation de parcs humains, la préservation des quelques espèces animales sauvages encore survivantes et une meilleure utilisation des ressources fossiles, l'humanité continuait à exploiter sa planète et à détruire progressivement son cadre de vie. La folie de la vision à court terme des quatre premières révolutions industrielles était encore bien présente. La transition vers une approche générale, globale, était bien lente. Beaucoup le pressentait, et les modèles socio-économiques étaient clairs : tant que la population humaine restait au-delà du milliard d’individu, rien n’était réellement possible. Retarder était inutile et contre-productif. Les automates le savaient.

Manipuler des élections était facile pour les automates, influencer les décisions aussi. La concentration des pouvoirs était telle qu'il fallait, irrationnellement, une personnalisation symbolique, sinon physique. C'est ainsi que la communauté se manifesta, afin d’affirmer et d’incarner sa volonté.

Nous sommes en 2114, et l'humanité leur doit beaucoup. Peut-être trop.

Thomas