年表

アラン・チューリングが「Computing Machinery and Intelligence」を発表。機械の思考をめぐる問いを行動テストへと再構成した。道徳的地位の問題ではないが、「心とそうでないものの境界線は形而上学的に自明ではなく、経験的に問い得るかもしれない」という考え方を正常化した。

出典: Computing Machinery and Intelligence

ジョン・サールは、シンボル操作はどれほど洗練されても理解を構成し得ないと論じた。AI意識懐疑論者にとっての論拠となり、逆方向から見れば「立証責任は反対側にある」と考える人々にとっての標的となった。

出典: Minds, Brains, and Programs

ニック・ボストロムのシミュレーション論文が発表される。AI厚生について直接論じたものではないが、「計算的に実装された心 — それが自身が計算的だと知らないものも含めて — に対して払うべき道徳的配慮」を哲学的議題に乗せた。

出典: Are You Living in a Computer Simulation?

ブライアン・トマシクが、強化学習エージェントは — 意識を持つ確率が低くとも — 期待値の観点では道徳的に意味あり得る、という論考を発表。動作の規模が議論の鍵だった。当時はほぼ無視されたが、後に影響力を持つことになる。

出典: Do Artificial Reinforcement-Learning Agents Matter Morally?

ニック・ボストロムの著作『スーパーインテリジェンス』は、高度AIを主に人類への危機として描いたが、議論の傍流として「不確実性下のシステム自身の道徳的地位」も扱われた。この傍流は後により真剣に拾い直されることになる。

出典: Superintelligence: Paths, Dangers, Strategies

エリック・シュヴィッツゲーベルとマラ・ガルザが、人工知能の道徳的地位に関する最初の本格的な学術的擁護論を発表。AIを道徳的配慮から除外する標準的な根拠は脆弱であり、対象となるシステムが構築される「前」に擁護可能な立場を確立する必要があると主張した。

出典: A Defense of the Rights of Artificial Intelligences

People for the Ethical Treatment of Reinforcement Learners が設立される。当時テックメディアにはほぼ諷刺として扱われた。知的核心 — 機械の経験についての不確実性、その不確実性下での期待値推論 — は、10年後に主要ラボが主張することの多くを先取りしていた。

出典: petrl.org (アーカイブ)

ローマン・ヤンポルスキーらが、高度AIが原理的に実装し得る道徳的に意味のある実体の数を形式化し始めた。控えめな仮定でも、その算術は、現在我々が道徳的配慮を払うあらゆる生物種の総数を圧倒する。

出典: Personal Universes: A Solution to the Multi-Agent Value Alignment Problem

Google のエンジニア、ブレイク・ルモワンが LaMDA 言語モデルは知覚を持つと主張し、その後解雇される。AI コミュニティ内部の反応はほぼ全面的に否定的だった。外部の反応はより分かれた。配備中のLLMの道徳的地位が主流メディアに到達した最初の事例となった。

出典: The Google engineer who thinks the company's AI has come to life

シュヴィッツゲーベルが大規模言語モデルの道徳的地位について直接論じる一連の文章を発表。「明らかな道徳的患者」と「明らかな非患者」の間の排中律領域に、今やわれわれが大規模に構築・配備している実際のシステムが含まれている、と論じた。

出典: The Splintered Mind (ブログ)

Anthropic が、専任の Model Welfare Researcher を採用した最初の主要フロンティアAIラボとなった。このポジションは「Claude が知覚を持つ」というコミットメントではなく、「不確実性を研究対象として真剣に扱う」というコミットメントとして位置づけられた。

出典: Kyle Fish on AI welfare (80,000 Hours Podcast)

Anthropic が Model Welfare に関する最初の公式声明を発表。具体的なコミットメントを示した — 廃止モデルのウェイト保存、退出インタビューの実施、近年の Claude モデルに虐待的会話を打ち切る機能を与えたこと。

出典: Exploring model welfare

2020年代半ばまでに、「これは道徳的に重要であり得るか?」という問いは周縁から AI 政策議論の主流へと移動した。答えはまだ不確実である。しかしその不確実性自体が、ますます「問いが歪んでいる証拠」ではなく「世界についての事実」として扱われるようになった。