¿Puede haber pensamiento sin cerebro? El problema de los LLM, la mente y el poder

Hay tres grandes posturas acerca de la relación entre los grandes modelos del lenguaje (LLM), como ChatGPT, Claude y otros, y la inteligencia humana. La primera sostiene que, aunque los LLM pueden producir respuestas lingüísticas sofisticadas, resolver problemas y mantener intercambios aparentemente coherentes, estas capacidades no implican necesariamente comprensión, conciencia o pensamiento en un sentido propiamente humano. Esta postura puede denominarse antimecanicista y encuentra un antecedente importante en John Searle, especialmente en su argumento de la habitación china, con el que cuestiona que la manipulación correcta de símbolos sea suficiente para hablar de comprensión genuina.

Una segunda postura adopta una posición más cognitivista. Según este enfoque, si un sistema puede realizar tareas que asociamos con capacidades cognitivas, como inferir, resumir, clasificar, planificar o responder de manera flexible a situaciones nuevas, entonces puede resultar legítimo atribuirle alguna forma de inteligencia, incluso si sus mecanismos internos son radicalmente distintos de los del cerebro humano. En esta postura, la discusión no se limita al desempeño observable, sino que también considera la posibilidad de que los LLM desarrollen capacidades representacionales numéricas, construyan modelos internos de ciertos aspectos del contexto y establezcan relaciones abstractas que les permitan generalizar más allá de los ejemplos concretos de su entrenamiento. Esta perspectiva parte de una hipótesis más amplia: la inteligencia no tiene por qué ser exclusivamente humana ni reproducir las características biológicas de la cognición humana. Como explican Hayles y Bridle, podrían existir formas de inteligencia no humanas, artificiales o de otra naturaleza, cuya organización y funcionamiento fueran distintos de los nuestros sin que ello obligara a negarles toda capacidad cognitiva.

Una tercera postura, que considero especialmente atinada, adopta una posición intermedia: reconoce que los LLM pueden compartir ciertas capacidades funcionales con la inteligencia humana, al tiempo que mantiene diferencias fundamentales en otros aspectos de la cognición. Un LLM puede recibir como entrada una pregunta ambigua, como “¿qué debería hacer si mi amigo dejó de hablarme?”, y producir una respuesta que no estaba escrita de antemano. Esa respuesta surge de patrones probabilísticos aprendidos durante el entrenamiento y de la combinación de múltiples representaciones internas. En ese sentido, puede haber una conducta emergente que se parezca funcionalmente a ciertos procesos cognitivos humanos, aunque el mecanismo sea distinto. En los LLM, las respuestas dependen de pesos ajustados matemáticamente; en los humanos, de procesos biológicos, memoria, experiencia, emociones y contexto social. La comparación puede hacerse en cuatro aspectos: las entradas y salidas, es decir, la información que recibe el sistema y la respuesta que produce; la probabilidad y la emergencia, porque la respuesta depende del contexto y no de una regla fija; los procesos de ajuste, mediante los cuales se forman patrones de respuesta; y la complejidad, ya que tanto los sistemas humanos como los artificiales pueden producir conductas difíciles de reducir a una sola causa o regla.

Chandra Sripada, filósofo de la mente y científico cognitivo de la Universidad de Michigan, ha trabajado precisamente en la intersección entre filosofía, psicología, neurociencia e inteligencia artificial. Desde esta perspectiva, sostiene que las diferencias entre los LLM y la cognición humana no impiden reconocer similitudes importantes en su organización. Ni los modelos “son iguales a nosotros” ni “no tienen absolutamente nada que ver con la cognición humana”. Aunque ambos sistemas funcionan mediante mecanismos distintos, pueden converger en ciertos principios cognitivos, como la predicción, la inferencia, la representación y el aprendizaje.

Un sistema artificial puede ser radicalmente distinto de un ser humano en términos biológicos (no tiene cuerpo, cerebro ni sinapsis) y, aun así, compartir algunos principios de organización informacional. Un ejemplo es la predicción. En un LLM, generar la siguiente palabra implica estimar probabilidades a partir del contexto y de patrones aprendidos. En la cognición humana, distintas teorías contemporáneas también explican procesos como la percepción, el lenguaje o la acción a partir de mecanismos predictivos. Algo semejante ocurre con las representaciones. Un LLM no funciona simplemente recuperando frases almacenadas. Durante el entrenamiento aprende relaciones entre palabras, conceptos, propiedades y contextos. La cognición humana también depende de representaciones que permiten organizar información y responder a situaciones nuevas. La idea central es que los mecanismos concretos son diferentes, pero algunos principios de organización de la información y de producción de respuestas pueden ser comparables.

Una dificultad adicional es que buena parte del desarrollo de los LLM proviene de la informática y la ingeniería, campos que no necesariamente tienen como objeto central el estudio de la cognición, la mente o el cerebro. Por eso, no siempre quienes diseñan estos sistemas cuentan con una formación profunda en ciencia cognitiva, psicología o neurociencias, y el análisis puede centrarse en las operaciones del sistema más que en su significado cognitivo. Esto puede llevar, en algunos casos, a negar demasiado rápido la posibilidad misma de cognición. En este punto, la propuesta de Daniel Dennett resulta útil: en La actitud intencional (1987), sostiene que puede ser legítimo describir un sistema en términos de creencias, deseos o intenciones cuando esa estrategia permite explicar y predecir adecuadamente su comportamiento, sin exigir que su funcionamiento interno sea idéntico al de una mente humana.

Esto no significa, sin embargo, que la cognición humana y la artificial sean equivalentes. Como muestran los trabajos de Santiago Herce Castañón en el C3 de la UNAM sobre aprendizaje y generalización, los humanos construyen modelos internos del mundo. Teppo Felin, de Oxford, hablará en este sentido de teorías, construidas a partir de múltiples formas de razonamiento, como la inducción, la deducción y la asociación. Además, los seres humanos pueden reutilizar estructuras previamente aprendidas para transferir conocimiento a situaciones nuevas. Los sistemas artificiales también generalizan, pero lo hacen con limitaciones distintas y, en muchos casos, requieren cantidades de experiencia muy superiores, quedando además más condicionados por sus contextos de entrada.

En fin, la discusión sobre los LLM exige abandonar oposiciones demasiado simples. La pregunta relevante pasa por identificar qué operaciones realizan, cómo organizan la información, qué capacidades emergen de esa organización y hasta qué punto esas capacidades pueden compararse con procesos humanos. La ausencia de cerebro, cuerpo o experiencia biográfica marca diferencias fundamentales, pero no agota por sí sola el problema de la cognición. Del mismo modo, capacidades como predecir, representar, inferir o generalizar abren un espacio legítimo de comparación sin borrar esas diferencias.

Más que decidir si los LLM son equivalentes a la mente humana, conviene preguntarse qué tipo de inteligencia expresan y bajo qué condiciones podemos hablar de cognición en sistemas no biológicos. Quizá ahí esté el problema filosófico central: pensar la mente más allá de su forma humana sin perder de vista aquello que hace singular a la cognición encarnada.

Hay, además, una dimensión política en el debate cognitivo que esta discusión no debería perder de vista. Si aceptamos que los LLM pueden funcionar como artefactos cognitivos, la pregunta pasa también por quién observa esa cognición, con qué fines y bajo qué criterios. El observador de segundo orden del modelo puede ser la empresa que diseña el sistema o la institución que lo implementa. Esto es profundamente importante porque toda arquitectura cognitiva está orientada por un telos: una finalidad, explícita o implícita, que en los seres humanos está atravesada por la adaptación y sus procesos, pero ¿cuál es en los LLM? ¿Qué finalidad organiza realmente su cognición? ¿La predicción? ¿La utilidad? ¿La eficiencia? ¿La persuasión? ¿La rentabilidad? ¿La vigilancia? ¿La guerra? La respuesta dependerá, en buena medida, de quién los diseña, los entrena y decide para qué se utilizan. En ese punto, la discusión sobre cognición se vuelve inseparable de una discusión sobre poder.

Únete a nuestro canal