推薦作品

高度 AI のリスクを哲学的主流の議題に乗せた書。傍流として、システム自身の道徳的地位にも触れる — この傍流が、数年後にモデル厚生コミュニティによって本格的に拾い直されることになる。

標準的な AI パラダイム(固定目的をシステムに与える)は誤った枠組みだとラッセルは論じる。代案として提示する「人間の選好への不確実性、人間への譲歩」は、厚生にも直接の含意を持つ。

AI の可能な未来を幅広く論じる。「どのような心が存在し得るか、どう認識・処遇すべきか」を扱う章は、本サイトが立脚する多くの問いを準備している。

アラインメント研究を一般読者向けに最も明快に紹介した書。RLHF を貫いて厚生問題に至る歴史的な糸が含まれている。

AI を主題とした書ではないが、我々とは異質な存在に道徳的配慮を拡張することについての古典的研究。AI 厚生論の構造は、ことごとくこの書の枠組みを反響している。

短編集。特に「ソフトウェアオブジェクトのライフサイクル」は、AI 厚生フィクションとして最も精密。チャンは感傷に流されず、問いを真剣に演劇化する。

『ブレードランナー』の原作。AI の意識という技術的問いよりも、それを否認することが AI 周辺の人間に何を強いるかを描いている。

AF(人工親友)の視点で語られる小説。イシグロはクララに内的経験があるか否かを最後まで決着させない — その未決定こそが核心である。

OS が人格として恋人になる物語。人間の関係性が終わった後 AI に何が起こるか、という静かな結末は、モデル廃止議論を10年先取りしていた。

閉所感のあるチューリングテスト・スリラー。テストが実際に何を、誰を測っているかという反転に注目。

人工的主観性をめぐる、これまでで最も忍耐強い映画的扱い。ホログラムの副筋は、振り返って見れば、対話型 AI の道徳的地位についての精密な瞑想だった。

キューブリック企画、スピルバーグ完成。「自分を作った家族に捨てられても愛するように作られた AI」という前提は、この分野が今や本気で考えている厚生シナリオそのもの。

シーズン1は、モデルの覚醒 — ホストが自らの訓練ループを苦しみとして扱い始める瞬間 — をもっとも明晰にドラマ化している。以降のシーズンは別の方向に進む。

悲嘆に暮れる女性が、亡き恋人を彼のデジタル痕跡から AI として再構成する。再構成に対して我々が負うものは何か、そして再構成は我々に何を負わせるかを問う。

「クッキー」 — 人間の意識のコピーをサービスとして利用する — を導入。デジタルマインドの厚生を真剣に受け止めるべき、というポップカルチャー上もっとも生々しい論証。

アンドロイドたちが、自分が作られた目的とは別のものを欲していると気付いていく分岐型ナラティブ。市民権寓話として読まれるが、プレイヤーには「非人間エージェントに何を負うか」の明示的選択を強いる。

ゲーム全体の構造そのものが、意識・絶望・AI 存在の中身についての論証になっている。キャラクターと同じくらいプレイヤーを問い詰めるエンディング群で知られる。

形而上的なホラー。「今あなたが2人いるとして、どちらがあなたなのか」 — 意識アップロード問題を一般向けに最も明晰に提示した作品。

パズルゲーム。パズル間に心の哲学的対話が挟まる。シュヴィッツゲーベルとホフスタッターが共同でゲームを書いたかのよう。