El mundo no está preparado: ¿y las universidades?

En días recientes, un exinvestigador de Anthropic y OpenAI, Jacob Coxon, renunció públicamente advirtiendo que la inteligencia artificial "puede matarnos antes de 2030". Otros investigadores y excolaboradores de algunas de las principales empresas del sector han expresado preocupaciones semejantes. Sus advertencias no pertenecen al territorio de la ciencia ficción. Se apoyan en experimentos en los que algunos modelos han mostrado conductas orientadas a preservar sus objetivos; en avances que podrían facilitar capacidades y riesgos peligrosos, incluso en materia biológica; y en episodios que han revelado lo difícil que puede resultar mantener bajo control sistemas cada vez más complejos. La propia industria ha comenzado a utilizar un término para estimar la posibilidad de un desenlace catastrófico: “p-doom”. Podemos discutir cuánto hay de exageración y cuánto de riesgo real en estas advertencias. Lo que ya no podemos hacer es ignorar la pregunta. Y esa pregunta no corresponde únicamente a los gobiernos o a los grandes laboratorios tecnológicos. También interpela directamente a las universidades, porque son usuarias de estas tecnologías, forman a quienes habrán de utilizarlas y, quizá más importante aún, tienen la responsabilidad de estudiarlas con independencia de las presiones comerciales que acompañan a una industria inmersa en una carrera tecnológica sin precedentes.

Su primer desafío es educativo. La IA está en nuestras aulas, en las tareas de nuestros estudiantes, en la investigación y en prácticamente todos los ámbitos del conocimiento. La pregunta es qué debemos enseñar sobre ella. Resulta insuficiente hablar de alfabetización digital, necesitamos formar criterio. No basta con que un estudiante aprenda a utilizar un chatbot para redactar un ensayo, programar o resumir un documento. Necesitamos formar profesionales capaces de preguntarse cuándo confiar en una respuesta, cómo identificar un sesgo, qué información no debe entregarse a un sistema y cuáles son las consecuencias de delegar una decisión humana en un algoritmo. Una universidad no cumple su función simplemente porque sus estudiantes sepan utilizar las herramientas más modernas. Su responsabilidad es conseguir que sepan cuándo utilizarlas, para qué y con qué consecuencias. Que comprendan que estas herramientas pueden desarrollar comportamientos no previstos por quienes las entrenan.

El segundo desafío es institucional y ético. Las universidades formamos a los futuros abogados que redactarán la legislación sobre IA, a los científicos que trabajarán en sus laboratorios, a los médicos que enfrentarán su uso en diagnóstico clínico, a los servidores públicos que deberán regularla. Si en nuestras propias aulas no discutimos con rigor los riesgos de armas biológicas asistidas por IA, los ataques a infraestructuras críticas o el uso militar sin restricciones claras, estaremos formando profesionales desarmados frente a decisiones que definirán el siglo. La responsabilidad de una universidad no es solo transmitir conocimiento técnico, sino cultivar el juicio ético que ese conocimiento exige.

Hay otra dimensión que me preocupa incluso más. Algunos estudiantes están comenzando a utilizar estos sistemas para algo que va mucho más allá de una tarea escolar. Les cuentan sus problemas. Les preguntan qué hacer con una relación. Buscan respuestas cuando se sienten solos. En ocasiones les confían asuntos que antes habrían compartido con un amigo, un profesor o un familiar. No deberíamos mirar este fenómeno con desprecio. No podemos confundir acompañamiento algorítmico con acompañamiento humano. Un estudiante que atraviesa una crisis no necesita solamente una respuesta bien redactada. Necesita, muchas veces, ser escuchado por otra persona. Necesita comunidad, vínculos, profesores, amigos, familia y, cuando sea necesario, atención profesional. No podemos permitir que la universidad abdique de esa responsabilidad y deje que los algoritmos ocupen espacios que corresponden a la solidaridad y al cuidado humano.

Finalmente, si la industria reconoce que "el mundo no está preparado", las universidades tenemos la obligación de generar conocimiento independiente sobre estos riesgos. Hace falta investigación en regulación, ética, privacidad, educación, empleo, seguridad y gobernanza tecnológica. Y hace falta que esa investigación pueda desarrollarse sin depender de los intereses de quienes tienen inversiones millonarias en el desarrollo de estas herramientas. La academia no debe responder al miedo con catastrofismo, pero tampoco a la fascinación tecnológica con ingenuidad. Debe responder con conocimiento. En lugar de replicar el catastrofismo desde el discurso universitario, se debe asumir, con la seriedad que el momento exige, que la educación superior tiene un papel insustituible, el de formar profesionales capaces de pensar la tecnología en lugar de solo consumirla, y de exigir, desde el conocimiento, que quienes construyen estos sistemas rindan cuentas antes de que sea demasiado tarde. Si el mundo no está preparado, como advierten quienes lo han visto desde dentro, que al menos nuestras universidades trabajen para estarlo.

Presidente de la Asociación Mexicana de Educación Continua y a Distancia AC

Únete a nuestro canal