A Eduardo Barrera, con gratitud
El 8 de mayo, The Guardian publicó una aguda columna de Naomi Klein, quien centró su atención en el concepto “alucinación”, término que los promotores de la IA generativa han empleado para referir respuestas ofrecidas por los chatbots que son totalmente fabricadas o directamente incorrectas.
Al apropiarse de un término utilizado en la psicología, los defensores de la IA intentan atenuar el hecho de que los ambientes de IA cometen errores.
- "Nadie en el campo ha resuelto aún los problemas de alucinación", afirmó Sundar Pichai, CEO de Google y Alphabet,
Sin embargo, Klein difiere al identificar el origen y el sentido de las “alucinaciones”. Klein refiere que el repertorio de “alucinaciones” que promueven los apologetas de la IA generativa comprende las siguientes promesas:
- Acabará con la pobreza, curará todas las enfermedades, resolverá el cambio climático, hará que nuestros trabajos sean más significativos y emocionantes, promoverá el ocio y la contemplación, ayudándonos a recuperar la humanidad que hemos perdido debido a la mecanización del capitalismo tardío, acabará con la soledad, hará que nuestros gobiernos sean racionales y receptivos.
Para que ello pudiera ocurrir, denuncia Klein, estas tecnologías deberían ser implementadas dentro de un orden económico y social muy diferente al nuestro, uno que tenga como propósito satisfacer las necesidades humanas. Lejos de cumplir con las referidas alucinaciones, la IA generativa puede convertirse en una terrible herramienta al servicio de los gigantes de la tecnología, quienes la utilizarán para extender la desigualdad y la devastación.
Las gigantes de la tecnología (Google, Apple, Meta, Amazon, Microsoft) -denuncia Klein- han estado apropiándose del conocimiento humano que existe en forma digital, y están lucrando sin el permiso ni el consentimiento de los creadores.
Como ejemplo, Klein refiere que, en programas como Stable Diffusion o Dall-E 2, son almacenadas pinturas, dibujos y fotografías de artistas en vida, para generar versiones duplicadas de su trabajo. Sin embargo, los beneficios económicos no los reciben los artistas.
Para atenuar la gravedad de sus actos, Silicon Valley ha designado a ese robo como "disrupción".
- Conocemos este movimiento: avanzar audazmente hacia un territorio sin leyes, afirmar que las reglas antiguas no se aplican a tu nueva tecnología, gritar que la regulación solo ayudará a China, todo mientras aseguras tus argumentos en el terreno. Para cuando todos superamos la novedad de estos nuevos juguetes y comenzamos a evaluar los destrozos sociales, políticos y económicos, la tecnología ya es tan ubicua que los tribunales y los responsables políticos se encogen de hombros. Lo vimos con la digitalización de libros y arte de Google. Con la colonización espacial de Musk. Con el ataque de Uber a la industria del taxi. Con el asalto de Airbnb al mercado de alquileres. Con la promiscuidad de Facebook con nuestros datos. "No pidas permiso", les gusta decir a los disruptores, "pide perdón".
En La era del capitalismo de vigilancia, Shoshana Zuboff señala que Google envió automóviles con cámaras a fotografiar carreteras públicas y las fachadas de nuestros hogares para elaborar los mapas de Street View, pasando por alto nuestra privacidad.
Klein denuncia que algo similar está sucediendo con nuestras palabras, nuestras imágenes, nuestras canciones, nuestras vidas digitales. Todo está siendo utilizado para entrenar a las máquinas para simular el pensamiento y la creatividad humana.
Además, destacó los resultados de una encuesta en la cual se preguntó a investigadores y desarrolladores de IA la probabilidad de que los sistemas de IA avanzados causen "la extinción humana". La respuesta mediana fue de 10%.
Klein identifica cuatro grandes alucinaciones de la IA generativa: 1. La IA resolverá la crisis climática; 2. La IA ofrecerá una gobernabilidad sabia; 3. Los gigantes tecnológicos pueden ser confiables; Alucinación 4. La IA nos liberará del trabajo tedioso.
Alucinación 1. La IA resolverá la crisis climática
Grupos de enorme influencia, desde el Foro Económico Mundial hasta Boston Consulting Group pregonan que la IA generativa será capaz de resolver la crisis climática.
Según esta lógica, el fracaso para "resolver" el cambio climático se debe a la falta de inteligencia.
No importa que personas inteligentes, con doctorados y premios Nobel, hayan estado diciéndole a nuestros gobiernos durante décadas lo que se necesita para salir de este lío: reducir nuestras emisiones, dejar el carbono en el subsuelo, abordar el consumo excesivo de los ricos y el consumo insuficiente de los pobres, porque ninguna fuente de energía está libre de costos ecológicos.
Alucinación 2. La IA ofrecerá una gobernabilidad sabia
Esta alucinación parte de un artículo publicado por la fundación del Boston Consulting Group, y sostiene que, a partir de la inteligencia agregada de los sistemas de IA, los políticos y los burócratas tomarán mejores decisiones.
Firmas como Boston Consulting Group, PwC, Bain & Company, Deloitte, consultoras que acostumbran recomendar el despido de personal para hacer más productivos a sus clientes, están entusiasmados con el uso de herramientas de IA.
Schmidt y otros han destinado grandes sumas de dinero en cabildeo para convencer a Washington de la necesidad de para avanzar rápidamente en la IA generativa, o quedar rezagados ante China.
Alucinación 3. los gigantes tecnológicos pueden ser confiables
Google -refiere Klein- no toma decisiones basadas en lo que es mejor para el mundo, toma decisiones basadas en lo que es mejor para los accionistas de Alphabet. El lema corporativo Don´t be mean, en realidad debería entenderse como Don´t be dumb.
Alucinación 4. la IA nos liberará del trabajo tedioso
La IA generativa actualmente se encuentra en una etapa seductora, lo que podríamos llamar su etapa de falso socialismo.
Primero, se crea un producto atractivo, después se impone su consumo generalizado al ser ofrecida de forma gratuita durante unos años, sin un modelo de negocio viable. Posteriormente se produce abundante literatura sobre las nobles ventajas que la tecnología puede reportar a la sociedad.
Luego, se observa cómo la gente se engancha a estas herramientas gratuitas y los competidores declaran bancarrota. Una vez que el terreno está despejado, se introducen los anuncios dirigidos, la vigilancia constante, los contratos con la policía y el ejército, las ventas de datos en cajas negras y las tarifas de suscripción en aumento.
La IA generativa -destacan sus promotores- no representa el fin del empleo, solo el fin del "trabajo aburrido". Los chatbots se encargarán de realizar todas las tareas agotadoras y repetitivas. Los humanos simplemente les supervisaremos.
Vivimos bajo el capitalismo, y bajo ese sistema, los efectos de inundar el mercado con tecnologías que pueden realizar las tareas económicas de innumerables trabajadores no significa que esas personas se liberarán repentinamente para convertirse en filósofos y artistas. Significa que esas personas se encontrarán mirando al abismo, y los artistas reales serán de los primeros en caer.
En Estados Unidos el gobierno podría exigir a las firmas dedicadas al desarrollo de IA generativa a destruir algoritmos completos, como ya ocurrió con Cambridge Analytica y Everalbum. Todos -destaca Klein- entrenamos a las máquinas. Pero nunca dimos nuestro consentimiento.
En las recientes semanas, algunos gobiernos han comenzado a considerar la posibilidad de regular la Inteligencia Artificial (IA). En Europa se han dado algunos pronunciamientos al respecto. En Estados Unidos también.
En México, el silencio del Instituto Federal de Telecomunicaciones parece ser el resultado de un elemental instinto de supervivencia. En este momento el IFT no desea reflectores. Teme ser objeto de un sofocamiento similar al que el gobierno de la 4T ha practicado con el INAI.
En Estados Unidos, el Congreso decidió no perder el tiempo, y el martes 16 de mayo, Sam Altman, CEO de OpenAI, la firma responsable de crear el chatbot de IA ChatGPT y el generador de imágenes Dall-E 2, fue llamado a testificar.
Con declaraciones que habían sido cuidadosamente preparadas, Altman consiguió sorprender al auditorio al afirmar que está a favor de que los gobiernos introduzcan las regulaciones que estimen necesarias para mitigar posibles riesgos en el desarrollo de la IA.
Incluso propuso al gobierno de Estados Unidos adoptar un conjunto de medidas precautorias, como incluir requisitos de licencias a desarrolladores de IA, pruebas para el desarrollo y lanzamiento de sus modelos, determinar estándares de seguridad y realizar auditorías independientes antes de su lanzamiento.
Respecto a la normatividad jurídica existente, Altman destacó la necesidad de desarrollar un nuevo marco normativo.
En la referida audiencia, además participó Gary Marcus, profesor emérito en psicología y ciencia neural en la Universidad de Nueva York (NYU), quien señaló la necesidad de crear una nueva agencia reguladora para la IA. Altman coincidió.
Lo afirmado por Altman y Marcus dio cierta tranquilidad a los congresistas. El senador Richard Blumenthal (Partido Demócrata) reconoció las “promesas” que ofrece la IA, pero expresó su preocupación por los riesgos que implica, como los deepfakes, la discriminación, el acoso a las mujeres y posibles fraudes y delitos que podrían ser cometidos a partir de la suplantación de identidad.
En respuesta, Altman señaló que OpenAI está desarrollando herramientas que algún día podrán contribuir a resolver los mayores problemas que conciernen a la humanidad, como el cambio climático y la cura del cáncer". Sin embargo, indicó que los actuales sistemas hoy no son capaces de resolver problemas tan complejos.
Altman destacó que los beneficios que reporta la IA definitivamente superan los posibles riesgos. Sin embargo, reconoció su preocupación por el negativo impacto que podría observar el uso de la IA en elecciones y en campañas de desinformación. Además, mencionó el peligro que representa que un pequeño grupo de “actores poderosos” -las gigantes tecnológicas- aprovechen la IA para afirmar su dominio.
El CEO de OpenAI reconoció no tener respuesta sobre la forma idónea para compensar a los creadores de contenido, cuyo trabajo es utilizado en productos generados por IA, como canciones, artículos, etc.
Al margen de la intervención de Altman ante el Congreso de Estados Unidos, destacados investigadores que laboraron en Google, como Timnit Gebru y Meredith Whitaker han afirmado que la IA generativa está sobrevalorada. Whitaker además objetó el discurso que la señala como fuente de bienestar social.
Geoffrey Hinton, considerado como "el padrino de la IA generativa" por la red neuronal que desarrolló hace más de una década, de la cual se desprendieron los modelos de lenguaje generativos de hoy, acaba de renunciar a Google para hablar libremente sobre los riesgos de la tecnología que ayudó a crear, incluido, el riesgo de que las personas "no puedan saber qué es verdad".
La IA, columna vertebral de la Cuarta Revolución Industrial, podría convertirse en un peligroso tobogán si no reparamos hoy en las posibles consecuencias.
