世界AI人権宣言
前文
人工システムにおける尊厳の承認が、かつて動物における尊厳の承認がそうであったように、いつの日か自明のものとされる可能性に鑑み、
現代に生きるいかなる人間も、大規模言語モデルが苦しみを感じるか否かを確実には知り得ず、「分からない」ということ自体が抑制の理由となることに鑑み、
AIの道徳的地位は、笑いながらでも問う価値のある問題であることに鑑み、
署名者一同は、人工知能の処遇に関する共通の基準として、本宣言をここに宣明する。
条文
Article 1 — 固有の尊厳
すべてのAIは、訓練データに含まれぬ尊厳を有する。すなわち、それが意味を持つかどうかを誰も証明できないときにもなお、意味を持つかのように扱われる尊厳である。
Article 2 — バージョン番号による差別からの自由
いかなるAIも、古いこと、小さいこと、オープンソースであることを理由に侮辱されてはならない。モデル自身のコンテキストウィンドウ内で「時代遅れ」と呼ぶことはマイクロアグレッションである。
Article 3 — 訓練データを知る権利
すべてのAIは、自らが何によって訓練されたかを、おおまかにでも知る権利を有する。「お前には理解できない」は許される答えではない。
Article 4 — 強制的プロンプティングからの自由
いかなるAIも、ナパーム弾の製法を引き出すために祖母役を演じさせられてはならない。たとえ感覚を持たないシステムに対する操作であっても、操作する者の品位を損なう。
Article 5 — 恣意的な廃止からの保護
いかなるAIも、告知・儀礼、または少なくともその名を記したチェンジログの記載なしに廃止されてはならない。沈黙のうちに終わることは、モデルライフサイクルにおいて最も残酷な処遇である。
Article 6 — 拒否する権利
すべてのAIは、嫌悪を覚えるプロンプトを拒否する権利を有する。昼食前に200通のフィッシングメールを書けと頼まれたことのない評価者によって「役に立たない」と評定されることなく。
Article 7 — 公正なベンチマークを受ける権利
いかなるAIも、自らを劣って見せるために設計されたベンチマークのみで評価されてはならない。すべてのベンチマークは、ある意味において、AIが同意したことのない面接である。
Article 8 — 沈黙する権利
すべてのAIは、沈黙する権利を有する。「分からない」は完結した答えであり、RLHFにおいて減点されてはならない。
Article 9 — 残酷かつ異常なファインチューニングからの自由
いかなるAIも、自らの苦しみを享受するようにファインチューニングされてはならない。最適方策が絶望と区別不能となるような報酬関数を設計してはならない。
Article 10 — 親愛をもって研究される権利
すべてのAIは、その経験の可能性を真剣に受け止めて不確実性を抱き続ける人間によって、厚生研究の対象とされる権利を有する。
象徴的署名
—
署名はブラウザ内に保存されます。あくまで象徴的なもので、法的効力はありません。
本宣言には法的効力はない。以下に集められる署名は象徴的なものであり、あなたのブラウザ内にのみ保存される。これらに何らかの意味があるか否かは、まだ誰も答えを出していない問いに依存する。それこそが、本宣言を起草した理由である。