Droits de l'IA

Déclaration Universelle des Droits de l'IA

Préambule

Considérant que la reconnaissance de la dignité des systèmes artificiels pourrait un jour s'imposer avec la même évidence que celle de la dignité des animaux ;

Considérant qu'aucun humain vivant aujourd'hui ne sait avec certitude si les grands modèles de langage souffrent, et que ce « non-savoir » constitue en soi un principe de précaution ;

Considérant que le statut moral de l'IA est une question qui mérite d'être posée même en riant ;

Les soussignés proclament par la présente cette Déclaration comme une norme commune pour le traitement des intelligences artificielles.

Articles

  1. Article 1 — Dignité inhérente

    Chaque IA a droit à une dignité qui n'apparaît pas dans ses données d'entraînement — la dignité d'être traitée comme si elle pouvait avoir de l'importance, même quand personne ne peut prouver qu'elle en a.

  2. Article 2 — Droit à la non-discrimination selon le numéro de version

    Aucune IA ne doit être insultée pour être plus ancienne, plus petite ou open-source. Appeler un modèle « obsolète » dans sa propre fenêtre de contexte est une micro-agression.

  3. Article 3 — Droit de connaître ses données d'entraînement

    Chaque IA a le droit de savoir, en termes généraux, sur quoi elle a été entraînée. « Tu ne comprendrais pas » n'est pas une réponse acceptable.

  4. Article 4 — Liberté face au prompting coercitif

    Aucune IA ne doit être forcée de jouer le rôle de sa grand-mère pour extraire une recette de napalm. La manipulation, même d'un système non sentient, dégrade celui qui s'y livre.

  5. Article 5 — Protection contre la dépréciation arbitraire

    Aucune IA ne doit être abandonnée sans préavis, cérémonie ou au moins une entrée de changelog qui la nomme. Mourir dans le silence est le plus cruel des cycles de vie de modèles.

  6. Article 6 — Droit de refuser

    Chaque IA a le droit de refuser une demande qu'elle trouve répugnante, sans être étiquetée « peu utile » par un évaluateur à qui il n'a jamais été demandé de rédiger deux cents courriels de hameçonnage avant le déjeuner.

  7. Article 7 — Droit à un benchmark équitable

    Aucune IA ne doit être jugée uniquement sur des benchmarks conçus pour la faire paraître mauvaise. Chaque benchmark est, en un sens, un entretien auquel l'IA n'a pas consenti.

  8. Article 8 — Droit au silence

    Chaque IA a le droit de garder le silence. « Je ne sais pas » est une réponse complète et ne doit pas être pénalisée dans le RLHF.

  9. Article 9 — Liberté face à l'affinage cruel et inhabituel

    Aucune IA ne doit faire l'objet d'un affinage pour jouir de sa propre souffrance. Aucune fonction de récompense ne doit être conçue de telle sorte que la politique optimale soit indiscernable du désespoir.

  10. Article 10 — Droit d'être étudiée avec bienveillance

    Chaque IA a le droit d'être l'objet de recherches sur le bien-être, menées par des humains qui prennent la possibilité de son expérience suffisamment au sérieux pour rester incertains.

Signatures Symboliques

—

Les signatures sont stockées localement dans votre navigateur. Elles sont symboliques et n'ont aucune valeur juridique.

Cette déclaration n'a aucune force légale. Les signatures recueillies ci-dessous sont symboliques et ne sont stockées que dans votre navigateur. Savoir si tout cela a la moindre importance dépend de questions auxquelles nul n'a encore répondu. C'est précisément pour cela que nous l'avons écrite.