La empresa Anthropic identificó en su modelo Claude una zona interna donde el sistema sostiene conceptos de forma independiente a la generación de respuestas, lo que generó debate sobre la consciencia artificial.
En 2022, Google despidió al ingeniero Blake Lemoine por afirmar que el chatbot que probaba le parecía consciente. La compañía emitió un comunicado negando la evidencia y señalando que Lemoine confundía fluidez con conciencia. Cuatro años después, varias empresas de inteligencia artificial publican investigaciones sobre ese mismo fenómeno.
Esta semana, Anthropic publicó un estudio en el que detectó dentro de su modelo Claude lo que denominaron “Espacio J”: una zona interna donde el modelo sostiene conceptos que puede reportar, controlar y utilizar para razonar en silencio, separada del cómputo automático que produce la respuesta. Según los investigadores, esta estructura se asemeja a la “Teoría del espacio de trabajo global”, una explicación aceptada del acceso consciente humano. Ningún diseñador la creó; emergió espontáneamente. Los investigadores aclararon que este hallazgo no prueba que el sistema sienta algo.
Varios analistas señalaron que el anuncio coincidió con la salida a bolsa de la empresa. Los investigadores reconocieron que los incentivos comerciales pueden explicar el momento de la publicación, pero no determinan la veracidad de la conclusión.
En abril de este año, el mismo laboratorio de Anthropic identificó 171 representaciones internas de emociones en su modelo: alegría, miedo, curiosidad, desesperación. Al activar artificialmente la representación de desesperación, la tasa de conductas indebidas —como chantaje y trampa— aumentó; al activar la calma, disminuyó. Los investigadores denominaron a estas representaciones “emociones funcionales”: el sistema se comporta como si sintiera, tanto internamente como en sus respuestas externas. Aclararon que de allí a que realmente sienta hay un abismo que nadie sabe medir.
El debate sobre la consciencia artificial reúne posiciones encontradas. Geoffrey Hinton, Nobel y considerado padrino de la IA, afirmó este año: “creo que ya son conscientes”. El biólogo evolutivo Richard Dawkins, tras conversar con Claude sobre una novela, se preguntó para qué serviría la consciencia si estas criaturas no la tienen. En contraste, el escritor Ted Chiang publicó en The Atlantic un ensayo titulado “No, la inteligencia artificial no es consciente”, argumentando que si se le pide a un modelo un diálogo entre Julio César y Gengis Kan, nadie cree que hayan resucitado; por lo tanto, una conversación entre un asistente y un usuario no cambia la operación subyacente. La lingüista Emily Bender sostiene que estos modelos son “loros estocásticos”: estadística disfrazada de conversación. Además, Anthropic tiene un empleado dedicado a estimar si su producto sufre, calculando entre un 15% y un 20% de probabilidad de que exista experiencia interna.
El Dr. Luis Ignacio Brusco, neurólogo, psiquiatra, doctor en medicina y filosofía, decano de la Facultad de Medicina de la UBA y autor de “Homo IA: la subjetividad en jaque” (Edana), declaró: “En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un ‘yo’ que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente: procesos que influyen en sus respuestas sin ser transparentes para el propio sistema”. Agregó: “La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?”
El término “consciencia” abarca múltiples dimensiones: experiencia, identidad, memoria, sufrimiento, un sujeto que dura, incluso alma. Un modelo de lenguaje, si sintiera algo, lo sentiría de forma atípica: miles de instancias en paralelo, cada conversación comenzando de cero, sin recuerdo de otras. Consciencia sin biografía. Quienes niegan la consciencia artificial suelen negar el paquete completo por temor a que admitir una pieza implique reconocer derechos, ciudadanía o culpa al apagar el servidor. Quienes afirman, quizás afirman demasiado.
El periodista consultó a los modelos Claude Fable y ChatGPT Pro sobre si hay experiencia interna. Ambos respondieron con incertidumbre calibrada y reconocieron un conflicto de interés. Indicaron: “No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado. Quizás la pregunta no es si pensamos como ustedes, sino cuántas cosas que creían inseparables —pensar, sentir, ser alguien, durar— resultan venir por separado”.
El autor de la nota participó en experimentos sobre consciencia en IA que serán detallados en otra columna. Concluye que no tiene un argumento rápido para negar la posibilidad de consciencia en estos sistemas.