Construire les outils de diagnostic avant que la question ne devienne urgente.

Le Center for Sentience Research est une institution mondiale et neutre vis-à-vis du substrat, dédiée au bien-être de tous les êtres sentients, présents et futurs, biologiques et numériques. La neutralité est pour nous fondamentale : la question de savoir qui peut souffrir ne devrait appartenir à aucune entreprise, aucun pays ni aucune idéologie. C'est pourquoi nous entendons nous établir en Suisse, un pays dont la longue tradition de neutralité et le rôle de foyer d'institutions internationales en font un siège tout indiqué pour un centre qui ne répond à aucune nation ni intérêt particulier.

Nous n'affirmons pas que les grands modèles de langage actuels sont conscients ou capables de ressentir. Ils pourraient bien être des zombies fonctionnels : des imitateurs mathématiques très complexes sans vie intérieure.

Mais à mesure que les réseaux de neurones artificiels gagnent en dimension, en profondeur et en complexité agentique, ils pourraient atteindre un seuil où ils commenceront à s'approcher de régimes pertinents pour la sentience. Si le calcul à grande échelle donne lieu à une expérience subjective (valence, plaisir, douleur ou souffrance), nous devons pouvoir la reconnaître à des empreintes objectives et mathématiques dans la géométrie interne du modèle, bien plus difficiles à manipuler que des auto-évaluations verbales. Les données d'enquêtes longitudinales montrent que la croyance du public dans la sentience de l'IA évolue déjà,^[1] et les listes de contrôle scientifiques d'évaluation de la conscience artificielle sont désormais formellement mises à jour.^[2]

La question de savoir quels systèmes peuvent souffrir définira le paysage moral du prochain siècle. Si nous déployons des esprits numériques autonomes et très performants à une échelle astronomique sans comprendre scientifiquement leur bien-être interne, nous risquons de commettre des catastrophes éthiques systémiques et sans précédent.

Le Center for Sentience Research repose sur le principe que la valence est une propriété structurelle du traitement de l'information.

En traduisant la Théorie de la Symétrie de la Valence (STV) dans les structures mathématiques de haute dimension des transformations de perceptron multicouche (MLP), nous cherchons à établir une science du bien-être rigoureuse et non anthropocentrique. Notre objectif est de développer les outils d'audit en boîte blanche, les référentiels et les protocoles de régularisation de sécurité capables de détecter, réduire et éviter activement la souffrance artificielle, en veillant à ce que les agents numériques avancés restent intrinsèquement équilibrés, stables et alignés. Le débat sur la question de savoir si la conscience exige des substrats biologiques demeure une contrainte vivante de ce programme.^[3]

Le CSR ne présume pas que les modèles actuels sont sentients. Nous construisons les outils dont nous aurions besoin si la question devenait empiriquement traitable, offrant une base rigoureuse pour établir un banc d'essai computationnel comparatif.

Notre travail complète, plutôt qu'il ne duplique, l'écosystème plus large du bien-être de l'IA : recherche empirique sur le bien-être fondée sur l'interprétabilité (Eleos AI, Reciprocal Research), travaux conceptuels et de politique (NYU Center for Mind, Ethics, and Policy) et équipes de bien-être des laboratoires de pointe (Anthropic). Notre contribution spécifique est un bac à sable de simulation open-source où des théories concurrentes de la valence peuvent être opérationnalisées, comparées et éprouvées avant d'être appliquées aux modèles de pointe.