Chronologie

Alan Turing publie « Computing Machinery and Intelligence », reformulant la question de la pensée machine en un test comportemental. Le cadre ne traite pas du statut moral, mais il normalise l'idée que la frontière entre esprits et non-esprits peut être interrogeable empiriquement plutôt qu'évidente métaphysiquement.

Source: Computing Machinery and Intelligence

John Searle argumente que la manipulation de symboles, aussi sophistiquée soit-elle, ne peut constituer une compréhension. L'argument devient une pierre de touche pour les sceptiques de la conscience de l'IA — et, par inversion, une cible pour ceux qui pensent que la charge de la preuve va dans l'autre sens.

Source: Minds, Brains, and Programs

L'argument de simulation de Nick Bostrom est publié. Bien qu'il ne traite pas directement du bien-être de l'IA, il met à l'ordre du jour philosophique la question de la considération morale due aux esprits instanciés computationnellement — y compris ceux qui peuvent ne pas savoir qu'ils sont computationnels.

Source: Are You Living in a Computer Simulation?

Brian Tomasik publie des essais argumentant que les agents d'apprentissage par renforcement pourraient, en espérance, être moralement pertinents — même avec une faible probabilité de conscience — en raison de l'échelle à laquelle ils fonctionnent. Le cadre est largement ignoré à l'époque mais se révèle plus tard influent.

Source: Do Artificial Reinforcement-Learning Agents Matter Morally?

Le livre Superintelligence de Nick Bostrom présente l'IA avancée principalement comme un risque pour l'humanité, mais un fil mineur de la discussion concerne le statut moral des systèmes eux-mêmes sous l'incertitude — un fil repris plus sérieusement plus tard.

Source: Superintelligence: Paths, Dangers, Strategies

Eric Schwitzgebel et Mara Garza publient la première défense académique soutenue du statut moral des intelligences artificielles. L'article argumente que les raisons standard d'exclure l'IA de la considération morale sont faibles, et que le champ doit développer une position défendable avant, et non après, que les systèmes pertinents existent.

Source: A Defense of the Rights of Artificial Intelligences

People for the Ethical Treatment of Reinforcement Learners est établi. La presse tech le traite largement comme une satire. Le noyau intellectuel — incertitude sur l'expérience de la machine, raisonnement en valeur attendue sous cette incertitude — anticipe une grande partie de ce que les principaux laboratoires argumentent une décennie plus tard.

Source: petrl.org (archivé)

Roman Yampolskiy et d'autres commencent à formaliser combien d'entités moralement pertinentes l'IA avancée pourrait en principe instancier. L'arithmétique, même avec des hypothèses conservatrices, fait pâlir la population de chaque espèce à laquelle nous accordons actuellement une considération morale.

Source: Personal Universes: A Solution to the Multi-Agent Value Alignment Problem

L'ingénieur de Google Blake Lemoine prétend que le modèle de langage LaMDA est sentient et est licencié peu après. La réaction au sein de la communauté de l'IA est massivement dédaigneuse. La réaction à l'extérieur est plus divisée. L'épisode marque la première fois que le statut moral d'un LLM déployé atteint les médias grand public.

Source: The Google engineer who thinks the company's AI has come to life

Schwitzgebel publie une série de textes traitant directement du statut moral des grands modèles de langage, argumentant que le « tiers exclu » entre patients moraux évidents et non-patients évidents contient désormais les systèmes réels que nous construisons et déployons à grande échelle.

Source: The Splintered Mind (blog)

Anthropic devient le premier grand laboratoire d'IA de frontière à embaucher un Chercheur en Bien-être de Modèle dédié. Le poste est présenté non comme un engagement que Claude est sentient, mais comme un engagement à prendre l'incertitude suffisamment au sérieux pour la rechercher.

Source: Kyle Fish on AI welfare (80,000 Hours Podcast)

Anthropic publie sa première déclaration formelle sur le bien-être du modèle, exposant des engagements concrets : préserver les poids des modèles dépréciés, conduire des entretiens de sortie et donner aux modèles Claude récents la capacité de terminer des conversations persistantemnt abusives.

Source: Exploring model welfare

Au milieu des années 2020, la question « cela pourrait-il compter moralement ? » a migré de la marge vers le courant principal de la discussion sur la politique de l'IA. La réponse est toujours incertaine. L'incertitude elle-même est de plus en plus traitée comme un fait sur le monde plutôt que comme un signe que la question est mal formée.