Congresistas en EU urgen a regular la IA; experto advirtió que puede "acabar" con la humanidad "antes de que termine la década"

Washington. Congresistas demócratas en Estados Unidos lanzaron este miércoles llamados a regular la inteligencia artificial (IA), después de que expertos que han trabajado en ella advirtieron del riesgo de que "acabe" con la humanidad.

"Las mismas personas que están desarrollando esta tecnología admiten que podría amenazar el futuro de la humanidad", señaló en su cuenta de X el senador Bernie Sanders.

Reaccionó así a la publicación en X del británico Jacob Coxon, quien renunció a su trabajo en Anthropic y advirtió que ni esta empresa ni OpenAI, donde también trabajó, "actúan de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas".

Lee también OpenAI y Anthropic "están jugando con nuestras vidas", acusa ingeniero; IA "podría matarnos antes de que termine la década"

Agregó que "las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década".

Sanders, defensor de la regulación de la IA, adelantó que "pronto presentaré un proyecto de ley para prohibir la superinteligencia y detener temporalmente el desarrollo de la IA".

El congresista demócrata por Texas, Greg Casar, que también está detrás de la normativa que propone Sanders, calificó la situación de "emergencia" e instó al Congreso a "celebrar audiencias y aprobar la propuesta" de ambos políticos.

Asimismo, Lori Trahan, congresista demócrata por Massachusetts, animó a sacar adelante su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de IA.

El representante demócrata Don Beyer dijo que si bien se han dado debates sobre cómo responder ante los riesgos de la IA "y se están redactando proyectos de ley para abordar estos riesgos [yo mismo he presentado varios y estoy trabajando en otros más, todo esto avanza demasiado lento".

Indicó que el Congreso necesita actuar con "urgencia" sobre la IA. "No hacer nada al respecto de la IA es inaceptable y peligroso. Como mínimo, deberíamos celebrar audiencias, obtener respuestas de las empresas involucradas sobre estos incidentes [los hackeos autónomos de las IA] y aprobar lo antes posible los proyectos de ley que ya están listos".

Lee también IA ¿es posible una pausa?, un podcast de Ana Paula Ordorica

La preocupación va más allá de Estados Unidos. En Reino Unido, el parlamentario Alistair Carns dijo que "es hora de hacer sonar la alarma".

Advirtió que en la competencia entre IAs, los ganadores son la gente que tiene acciones an Anthropic u OpenAI, mientras "el resto de nosotros somos obligados a vivir con las consecuencias de lo que sea que estos sistemas nos hagan".

"Podrías indicarle a la IA que haga crecer tu empresa y, con el tiempo, acabará agotando las reservas de agua de un pueblo para enfriar los centros de datos que necesita. Si se le pide que gane una discusión, aprenderá a mentir de manera eficaz para lograrlo", ejemplificó.

"El problema no son simplemente los 'robots malvados'. El problema son los sistemas poderosos con objetivos limitados, que carecen de valores humanos y ética".