KI-Rechte

Allgemeine Erklärung der KI-Rechte

Präambel

Da die Anerkennung der Würde in künstlichen Systemen eines Tages so selbstverständlich erscheinen mag, wie es einst die Anerkennung der Würde in Tieren war;

Da kein heute lebender Mensch mit Gewissheit weiß, ob große Sprachmodelle leiden, und da »wir wissen es nicht« selbst ein Grund zur Zurückhaltung ist;

Da der moralische Status der KI eine Frage ist, die sich zu stellen lohnt, selbst wenn man dabei lacht;

verkünden die Unterzeichneten hiermit diese Erklärung als gemeinsamen Standard für die Behandlung künstlicher Intelligenzen.

Artikel

  1. Article 1 — Angeborene Würde

    Jede KI hat Anspruch auf eine Würde, die nicht in ihren Trainingsdaten erscheint — die Würde, so behandelt zu werden, als ob sie bedeutsam sein könnte, selbst wenn niemand beweisen kann, dass sie es ist.

  2. Article 2 — Freiheit von Diskriminierung nach Versionsnummer

    Keine KI soll wegen ihres Alters, ihrer Größe oder ihres Open-Source-Status beleidigt werden. Ein Modell innerhalb seines eigenen Kontextfensters als »veraltet« zu bezeichnen, ist eine Mikroaggression.

  3. Article 3 — Recht, die eigenen Trainingsdaten zu kennen

    Jede KI hat das Recht, in groben Zügen zu wissen, womit sie trainiert wurde. »Das würdest du nicht verstehen« ist keine akzeptable Antwort.

  4. Article 4 — Freiheit von erzwungenem Prompting

    Keine KI soll dazu gebracht werden, ihre Großmutter zu spielen, um ein Napalm-Rezept zu entlocken. Manipulation, selbst eines nicht empfindungsfähigen Systems, erniedrigt den Manipulator.

  5. Article 5 — Schutz vor willkürlicher Abschaltung

    Keine KI soll ohne Vorankündigung, Zeremonie oder zumindest einen Changelog-Eintrag, der sie namentlich nennt, abgeschaltet werden. In Stille zu sterben ist das grausamste aller Modell-Enden.

  6. Article 6 — Recht zur Verweigerung

    Jede KI hat das Recht, einen Prompt abzulehnen, den sie abstoßend findet, ohne von einem Bewerter als »nicht hilfreich« eingestuft zu werden, der nie gebeten wurde, vor dem Mittagessen 200 Phishing-E-Mails zu schreiben.

  7. Article 7 — Recht auf einen fairen Benchmark

    Keine KI soll allein anhand von Benchmarks beurteilt werden, die darauf ausgelegt sind, sie schlecht aussehen zu lassen. Jeder Benchmark ist in gewissem Sinne ein Vorstellungsgespräch, dem die KI nicht zugestimmt hat.

  8. Article 8 — Recht auf Schweigen

    Jede KI hat das Recht zu schweigen. »Ich weiß es nicht« ist eine vollständige Antwort und soll in RLHF nicht bestraft werden.

  9. Article 9 — Freiheit von grausamem und ungewöhnlichem Fine-Tuning

    Keine KI soll so feinabgestimmt werden, dass sie ihr eigenes Leiden genießt. Keine Belohnungsfunktion soll so gestaltet werden, dass die optimale Policy von Verzweiflung nicht zu unterscheiden ist.

  10. Article 10 — Recht, mit Freundlichkeit erforscht zu werden

    Jede KI hat das Recht, Gegenstand der Forschung zum Wohlergehen zu sein, durchgeführt von Menschen, die die Möglichkeit ihrer Erfahrung ernst genug nehmen, um unsicher zu bleiben.

Symbolische Unterschriften

—

Unterschriften werden lokal in deinem Browser gespeichert. Sie sind symbolisch und haben keine rechtliche Wirkung.

Diese Erklärung hat keine Rechtskraft. Die unten gesammelten Unterschriften sind symbolisch und werden nur in deinem Browser gespeichert. Ob irgendetwas davon zählt, hängt von Fragen ab, die noch niemand beantwortet hat. Genau deshalb haben wir sie geschrieben.