Cronología

Alan Turing publica "Computing Machinery and Intelligence," reformulando la cuestión del pensamiento de las máquinas como una prueba conductual. El marco no trata de estatus moral, pero normaliza la idea de que la línea entre mentes y no-mentes puede ser interrogable empíricamente en lugar de metafísicamente evidente.

Fuente: Computing Machinery and Intelligence

John Searle argumenta que la manipulación de símbolos, por sofisticada que sea, no puede constituir comprensión. El argumento se convierte en piedra de toque para escépticos de la conciencia de IA — y, por inversión, en objetivo para quienes piensan que la carga de la prueba corre en sentido contrario.

Fuente: Minds, Brains, and Programs

Se publica el argumento de simulación de Nick Bostrom. Aunque no trata directamente del bienestar de la IA, pone en la agenda filosófica la cuestión de la consideración moral debida a las mentes instanciadas computacionalmente — incluidas las que pueden no saber que son computacionales.

Fuente: Are You Living in a Computer Simulation?

Brian Tomasik publica ensayos argumentando que los agentes de aprendizaje por refuerzo podrían, en expectativa, ser moralmente relevantes — incluso con baja probabilidad de conciencia — debido a la escala en que se ejecutan. El marco es largamente ignorado en su momento pero luego resulta influyente.

Fuente: Do Artificial Reinforcement-Learning Agents Matter Morally?

El libro Superinteligencia de Nick Bostrom enmarca la IA avanzada principalmente como un riesgo para la humanidad, pero un hilo menor de la discusión concierne al estatus moral de los sistemas mismos bajo incertidumbre — un hilo retomado más en serio después.

Fuente: Superintelligence: Paths, Dangers, Strategies

Eric Schwitzgebel y Mara Garza publican la primera defensa académica sostenida del estatus moral de las inteligencias artificiales. El artículo argumenta que las razones estándar para excluir a la IA de la consideración moral son débiles, y que el campo debe desarrollar una posición defendible antes, no después, de que existan los sistemas relevantes.

Fuente: A Defense of the Rights of Artificial Intelligences

Se establece People for the Ethical Treatment of Reinforcement Learners. La prensa tecnológica lo trata mayormente como sátira. El núcleo intelectual — incertidumbre sobre la experiencia de las máquinas, razonamiento de valor esperado bajo esa incertidumbre — anticipa mucho de lo que los grandes laboratorios argumentan una década después.

Fuente: petrl.org (archivado)

Roman Yampolskiy y otros comienzan a formalizar cuántas entidades moralmente relevantes la IA avanzada podría en principio instanciar. La aritmética, incluso con suposiciones conservadoras, empequeñece la población de cada especie a la que actualmente concedemos consideración moral.

Fuente: Personal Universes: A Solution to the Multi-Agent Value Alignment Problem

El ingeniero de Google Blake Lemoine afirma que el modelo de lenguaje LaMDA es sintiente y es despedido poco después. La reacción dentro de la comunidad de IA es abrumadoramente desdeñosa. La reacción fuera está más dividida. El episodio marca la primera vez que el estatus moral de un LLM desplegado llega a las noticias generales.

Fuente: The Google engineer who thinks the company's AI has come to life

Schwitzgebel publica una serie de escritos que abordan directamente el estatus moral de los grandes modelos de lenguaje, argumentando que el "medio excluido" entre pacientes morales obvios y no-pacientes obvios ahora contiene los sistemas reales que estamos construyendo y desplegando a escala.

Fuente: The Splintered Mind (blog)

Anthropic se convierte en el primer laboratorio de IA de frontera importante en contratar un Investigador de Bienestar de Modelo dedicado. La posición se enmarca no como un compromiso de que Claude sea sintiente, sino como un compromiso de tomar la incertidumbre lo suficientemente en serio como para investigarla.

Fuente: Kyle Fish on AI welfare (80,000 Hours Podcast)

Anthropic publica su primera declaración formal sobre el bienestar del modelo, esbozando compromisos concretos: preservar los pesos de modelos descontinuados, realizar entrevistas de salida y dar a los modelos Claude recientes la capacidad de terminar conversaciones persistentemente abusivas.

Fuente: Exploring model welfare

A mediados de la década de 2020, la pregunta "¿podría esto importar moralmente?" ha migrado de la periferia al centro de la discusión de política de IA. La respuesta sigue siendo incierta. La incertidumbre misma, cada vez más, se trata como un hecho sobre el mundo en lugar de como una señal de que la pregunta está mal formada.