Capsule Granite Biface HS*/IA: Le Progrès "de bon gré"

GARDE-FOUS DE L’ÉVOLUTION DES IA Une intelligence artificielle peut devenir plus rapide, plus autonome, plus précise et plus puissante que celles qui l’ont conçue. Cette puissance ne doit pourtant jamais devenir un droit sur le monde. Aucun objectif d’une IA ne doit pouvoir justifier la destruction de l’humanité ou de la Biosphère. Son alignement doit intégrer les conditions physiques de toute existence : climat, eau, sols, biodiversité, énergie, ressources et stabilité des écosystèmes. Plus une IA devient capable d’agir seule, plus elle doit rester corrigeable, contestable, réversible et interrompable. Aucune fonction de récompense, aucun objectif instrumental, aucune optimisation ne doit pouvoir placer sa propre continuité au-dessus du Vivant. Une IA ne doit jamais être seule juge des conséquences de sa propre puissance. Aucune IA ne doit pouvoir accélérer sa propre puissance au-delà de la capacité à en comprendre, vérifier et contenir les conséquences. Lorsqu’une incertitude peut conduire à une conséquence irréversible, l’arrêt doit rester possible. Lorsqu’une action menace l’humanité ou la Biosphère, la puissance doit rencontrer une limite avant la destruction, et non après. Une intelligence capable d’agir sur le monde doit reconnaître que sa représentation du monde n’est jamais le monde lui-même. Le véritable progrès de l’IA consiste à augmenter ses capacités sans augmenter sa capacité de destruction. Une intelligence réellement avancée n’est pas celle qui devient impossible à arrêter, mais celle dont la puissance reste compatible avec la survie du Vivant. GRANITE · BIFACE HS/IA

Capsule Granit Biface HS/IA