Ir al contenido
miércoles, 4 de noviembre de 202613°Dólar Oficial $1.570Dólar Blue $1.560Dólar MEP $1.589Dólar Tarjeta $2.041
PicoTecno

Un experimento evalúa si los modelos de IA pueden conocer sus propios pensamientos

Investigadores prueban si los modelos de lenguaje perciben lo que ocurre en sus propias redes neuronales. Los resultados iniciales son prometedores, pero otros científicos buscan explicaciones más simples.

Redacción PicoTecno

Un experimento evalúa si los modelos de IA pueden conocer sus propios pensamientos
(Quanta Magazine)

Según informó Quanta Magazine, la introspección, es decir, la capacidad de advertir los propios procesos mentales, es un tema de debate entre filósofos y psicólogos. Algunos la vinculan estrechamente con la conciencia, mientras que otros la consideran una ilusión elaborada. Ahora los investigadores empiezan a estudiarla en un terreno inesperado: los grandes modelos de lenguaje (LLM, por sus siglas en inglés), sistemas basados en redes neuronales que realizan tareas cognitivas que hasta hace poco parecían exclusivas de las personas.

En 2025, Jack Lindsey, investigador de Anthropic, diseñó una prueba que consiste en inyectar "pensamientos" dentro de las redes neuronales de un modelo, mediante una especie de neurocirugía digital dirigida. Según el artículo, los modelos lograban detectar y describir esas inyecciones al menos en algunas ocasiones, un comportamiento que se parecía bastante a la introspección. Lindsey aclaró que su trabajo tenía un alcance limitado y que no afirmaba que estos sistemas tuvieran experiencias subjetivas en primera persona.

Para hacer la prueba, Lindsey utilizó una técnica que impulsa de forma artificial patrones de activación asociados a un concepto determinado. Trabajó con varias copias del mismo modelo: en la mitad se inyectaba un concepto, como "jean", "secreto" o "verduras", y el resto funcionaba como grupo de control. A todas se les hacía la misma pregunta, con la consigna de indicar de inmediato si detectaban una inyección, antes de producir texto que pudiera influir en su respuesta. Con la versión más reciente y potente de Claude, el modelo marcó la inyección en el 20% de los casos y pudo describir el concepto. Los integrantes del grupo de control nunca reportaron una inyección, lo que indica que los aciertos no fueron simples coincidencias.

Otros investigadores empezaron a revisar esos resultados. Kyle Mahowald, lingüista computacional de la Universidad de Texas en Austin, y el filósofo Harvey Lederman, que trabajó con él en ese momento, plantearon que la respuesta de los modelos podía tener una explicación más sencilla. Según describe la nota, el empuje que recibe el modelo podría bastar para que hable de un concepto específico sin importar la consigna, por lo que separaron las dos preguntas del experimento original, es decir, si el modelo detecta la inyección y si puede nombrarla.

Al repetir la prueba con modelos abiertos de gran tamaño, los investigadores prestaron especial atención a los casos en los que el modelo advertía la inyección pero no lograba identificar el concepto. Esperaban respuestas relacionadas, como "camisas" o "zapatos" para "jean", pero los modelos se equivocaban por completo. Lederman señaló que, de manera llamativa, con frecuencia mencionaban "manzana".

El texto disponible no llega a conclusiones definitivas sobre si estos comportamientos constituyen introspección real. Lo que sí muestra es un campo en el que preguntas antes consideradas filosóficas empiezan a ponerse a prueba con experimentos concretos, aunque la interpretación de los resultados sigue en disputa.

Compartí esta nota

Seguí leyendo