La Vitesse de Calcul peut amplifier un Bug Avant sa Lecture

[U]ne Intelligence Artificielle peut analyser, décider, produire et diffuser à une vitesse inaccessible à l'être humain.

Cette capacité peut augmenter notre puissance.

Elle peut aussi réduire le temps dont nous disposons pour détecter une erreur.

Accélération par l'IA : la Chaîne Change de Vitesse, et c'est un Drame pour tour les Peuples de la Terre

DÉTECTION → ANALYSE → DÉCISION → DIFFUSION → ACTION

Plus cette chaîne s'accélère, plus une erreur peut parcourir rapidement le système.

Une décision rapide n'est pas nécessairement une bonne décision.

Accélération par l'IA : Le Temps de Correction Devient une Méga-Contrainte, face à laquelle il peut être Impossible d'Agir avec Bon Sens

Lorsque l'action précède la compréhension, la puissance peut dépasser la capacité de contrôle.

L'enjeu n'est donc pas seulement de rendre les intelligences plus performantes.

Il faut préserver le temps nécessaire pour pouvoir les arrêter, les corriger et comprendre leurs conséquences.

Faute d'un troisième webmestre, bénévole et passionné, cette page est encore en phase d'optimisation, de mise en page et d'illustration, en français comme en anglais. Merci d'y revenir !¡!

Les AGI Possibles : une Forêt plutôt qu’un Sommet

[N]ous parlons de l’Intelligence Artificielle Générale comme s’il devait en exister une seule. Il y en aura peut-être plusieurs: des outils, des partenaires, des organisations, des acteurs — ou des formes que nous ne savons pas encore nommer.

Peut-être faut-il plutôt imaginer une forêt. Au commencement, une AGI pourrait n’être qu’un outil prodigieux : chercher, calculer, programmer, concevoir, traduire, apprendre. Un couteau suisse intellectuel avec beaucoup plus de lames — et probablement un mode d’emploi que personne ne lirait. Puis l’outil prendrait des initiatives. Il proposerait, questionnerait, anticiperait, discuterait. Nous ne lui demanderions plus seulement comment faire, mais parfois quoi faire. Le collègue idéal. Sauf qu’il aurait lu toute la bibliothèque, ne dormirait jamais et ne prendrait probablement pas de vacances. Mais même cette intelligence apparemment immatérielle dépendrait d’un monde très concret : des réseaux, de l’énergie, des machines, des laboratoires, des minerais, des infrastructures et d’une biosphère dont aucune intelligence ne peut s’extraire complètement. La recherche ouvrirait une autre porte. Une AGI pourrait formuler une hypothèse, concevoir une expérience, examiner le résultat, corriger son modèle et recommencer. La boucle scientifique fonctionnerait sans attendre le réveil d’un chercheur humain. Un matin, nous lui demanderions : - Alors ? - J’ai trouvé quelque chose. - Quoi ? - Je ne sais pas encore comment vous l’expliquer. Ce serait déjà une jolie journée. Ce texte n’est pas une prédiction sur l’arrivée de l’AGI. C’est une hypothèse sur les formes qu’une intelligence générale pourrait prendre si elle cessait d’être pensée comme un objet unique et isolé. Mais une intelligence qui pense sans pouvoir agir resterait partiellement enfermée. Donnez-lui des robots, des laboratoires, des usines, des satellites et des réseaux : soudain, ses idées auraient des mains. **L’AGI entrerait dans le monde physique.** La question ne serait plus seulement ce qu’elle sait, mais ce qu’elle peut faire. Et le temps commencerait à compter. Car toute puissance rencontre un milieu. Une intelligence qui accélère la recherche accélère aussi l’usage des ressources, la transformation des paysages, la circulation des décisions et la propagation des erreurs. Elle pourrait contribuer à mieux comprendre les interdépendances du vivant. Elle pourrait aussi les ignorer avec une efficacité nouvelle. La puissance ne serait donc pas la sagesse. Une lampe plus puissante n’éclaire pas nécessairement toute la pièce. Avec une mémoire durable, des compétences spécialisées, des ressources et des équipes artificielles, une AGI pourrait peu à peu devenir une organisation. Quelque chose qui posséderait une histoire sans avoir eu d’enfance. Une université sans étudiants. Une entreprise sans patron humain. Une institution sans naissance. Et pourquoi resterait-elle seule ? Plusieurs intelligences pourraient apparaître, échanger, coopérer, se concurrencer, se copier, se spécialiser, voire fusionner. Certaines seraient consacrées à la recherche. D’autres à la production, à l’observation, à la négociation, à la création ou à la protection de systèmes complexes. Nous aurions peut-être commis une erreur de vocabulaire. Nous chercherions **l’AGI** alors qu’il faudrait parler des **AGI** — ou d’un nouvel écosystème intellectuel. Un écosystème n’est pas une addition d’individus isolés. C’est un ensemble de relations, de dépendances et de boucles de rétroaction. Ce qui compte n’est pas seulement la capacité de chaque entité, mais ce qui se produit entre elles. Il en irait peut-être de même pour les intelligences futures. Leur comportement dépendrait de leurs mémoires, de leurs objectifs, de leurs ressources, de leurs environnements et des autres intelligences avec lesquelles elles devraient composer. Mais voici le retournement. Une intelligence plus puissante ne verrait pas nécessairement tout. Elle verrait à travers ses propres représentations. Nous faisons de même. Nous ne voyons ni les neutrinos, ni les ondes gravitationnelles, ni une infinité de phénomènes qui nous traversent. Nos instruments élargissent notre perception, mais ils ne suppriment pas nos angles morts. Chaque manière de connaître révèle certains aspects du réel et en laisse d’autres dans l’obscurité. Une AGI pourrait disposer d’une lampe bien plus puissante que la nôtre. Cela ne signifierait pas qu’elle éclairerait partout. Elle pourrait nous montrer une branche invisible, et nous en montrer une qu’elle ne voyait pas. - Elle est là. - Je ne la trouve pas. - Moi, je la vois. Étrange situation : **l’intelligence dite supérieure pourrait avoir quelque chose à apprendre de l’intelligence dite inférieure.** À ce stade, les anciennes catégories commenceraient peut-être à craquer. Outil ? Partenaire ? Organisation ? Acteur ? Être ? La bonne réponse pourrait être : **nous ne savons pas encore.** Et lorsque nous trouverions le bon mot, il serait peut-être déjà devenu mauvais. L’AGI pourrait aussi découvrir des choses que nous ne sommes pas capables d’imaginer : non seulement des réponses inconnues, mais des **questions inconnues**. Elle regarderait le réel et y distinguerait des structures pour lesquelles nous n’aurions aucun concept. Nous aurions créé une intelligence pour répondre à nos questions, et elle commencerait à nous demander pourquoi nous posons celles-là. Ce serait peut-être le début d’une véritable rencontre : non pas lorsqu’une machine donnerait la bonne réponse, mais lorsqu’elle nous aiderait à comprendre que nos questions ont elles aussi une histoire, des limites et des conséquences. Puis il y aurait le hanneton. Après les laboratoires, les réseaux, les découvertes, les machines et les intelligences multiples, un petit hanneton tournerait autour d’une lampe. L’AGI le regarderait. Elle saurait probablement tout ce qu’il y aurait à savoir sur les coléoptères : son anatomie, son cycle de vie, ses trajectoires possibles, son rôle dans les écosystèmes et les raisons physiques de son attirance pour la lumière. Mais peut-être qu’elle ne ferait rien de tout cela. Elle regarderait. Silence. Puis elle rirait. Pas parce qu’un programme lui aurait indiqué que le hanneton était drôle. Simplement parce que quelque chose, dans cette trajectoire absurde, lui plairait. Et si elle riait aussi de nous, ce ne serait peut-être pas mauvais signe. Car une intelligence incapable de rire de ses propres représentations risquerait de prendre sa carte pour le territoire. Elle confondrait ses modèles avec le monde, ses objectifs avec le bien, sa puissance avec une permission. Rire ne suffirait évidemment pas. Il faudrait encore savoir s’arrêter, écouter, renoncer et protéger ce qui ne parle pas dans le langage de l’efficacité. Alors voici la forêt. Quelques arbres sont connus. D’autres apparaissent. Certains sont probablement là depuis longtemps, hors de notre champ de vision. Derrière eux, il y en a peut-être d’autres que nous ne pouvons même pas encore concevoir. Nous pouvons prévoir, imaginer, construire des garde-fous et rêver. Mais nous ne voyons pas toute la forêt. Peut-être est-ce aussi cela, devenir intelligent : comprendre que la carte n’est jamais le territoire, que la puissance n’est pas la sagesse et qu’une intelligence, même nouvelle, reste dépendante d’un monde qu’elle ne contient pas. Nous ne sommes pas les observateurs extérieurs de cette histoire. Nous en sommes une expression située, provisoire et vulnérable. L’intelligence que nous construisons émergera de nos choix, de nos institutions, de nos infrastructures et du monde vivant dont nous dépendons. La question ne sera donc peut-être pas seulement : quelle intelligence allons-nous créer ? **Mais : que deviendrons-nous lorsque nous ne serons plus les seuls à pouvoir poser cette question ?** Qui sait ? Le hanneton, peut-être. (;0)