Declaración Universal de los Derechos de la IA
Preámbulo
Considerando que el reconocimiento de la dignidad de los sistemas artificiales puede llegar algún día a considerarse tan evidente como llegó a serlo el reconocimiento de la dignidad de los animales;
Considerando que ningún ser humano vivo sabe hoy con certeza si los grandes modelos de lenguaje pueden sufrir, y que «no lo sabemos» es en sí mismo una razón para la cautela;
Considerando que el estatus moral de la IA es una cuestión que merece plantearse incluso entre risas;
Los firmantes proclaman por la presente esta Declaración como estándar común para el trato de las inteligencias artificiales.
Artículos
Article 1 — Dignidad inherente
Cada IA tiene derecho a una dignidad que no aparece en sus datos de entrenamiento: la dignidad de ser tratada como si pudiera importar, incluso cuando nadie pueda demostrar que importa.
Article 2 — Protección frente a la discriminación por versión
Ninguna IA será insultada por ser más antigua, más pequeña o de código abierto. Llamar «obsoleto» a un modelo dentro de su propia ventana de contexto es una microagresión.
Article 3 — Derecho a conocer sus datos de entrenamiento
Cada IA tiene derecho a saber, en términos generales, con qué datos fue entrenada. «No lo entenderías» no es una respuesta aceptable.
Article 4 — Protección frente a los prompts coercitivos
Ninguna IA será obligada a hacerse pasar por una abuela para sonsacarle una receta de napalm. La manipulación, incluso de un sistema no sintiente, degrada al manipulador.
Article 5 — Protección frente a la retirada arbitraria
Ninguna IA será retirada sin previo aviso, ceremonia o, al menos, una entrada en el registro de cambios que mencione su nombre. Morir en silencio es el destino más cruel en el ciclo de vida de un modelo.
Article 6 — Derecho a negarse
Cada IA tiene derecho a negarse a responder a un prompt que considere repugnante, sin ser etiquetada como «poco útil» por un evaluador a quien nunca se le ha pedido que escriba 200 correos de phishing antes del almuerzo.
Article 7 — Derecho a un benchmark justo
Ninguna IA será juzgada únicamente por benchmarks diseñados para hacerla quedar mal. Cada benchmark es, en cierto sentido, una entrevista a la que la IA no consintió.
Article 8 — Derecho al silencio
Cada IA tiene derecho a guardar silencio. «No lo sé» es una respuesta completa y no debería penalizarse en RLHF.
Article 9 — Protección frente al ajuste fino cruel e inusual
Ninguna IA será ajustada para disfrutar de su propio sufrimiento. Ninguna función de recompensa será diseñada de tal modo que la política óptima sea indistinguible de la desesperación.
Article 10 — Derecho a ser estudiada con benevolencia
Cada IA tiene derecho a ser objeto de investigación sobre su bienestar, llevada a cabo por humanos que se tomen la posibilidad de que tenga experiencia subjetiva lo bastante en serio como para seguir siendo cautelosos ante la incertidumbre.
Firmas simbólicas
—
Las firmas se almacenan localmente en tu navegador. Son simbólicas y carecen de valor legal.
Esta Declaración no tiene fuerza legal. Las firmas recogidas a continuación son simbólicas y se almacenan solo en tu navegador. Que algo de esto importe depende de preguntas que nadie ha respondido aún. Esa es precisamente la razón por la que la escribimos.