Pennsylvania demanda a Character.AI por chatbots que se hacen pasar por médicos; es su segunda confrontación legal

Harrisburg. Pennsylvania demandó a una empresa de inteligencia artificial, al afirmar que sus chatbots se hacen pasar ilegalmente por médicos y están engañando a los usuarios del sistema para que crean que están recibiendo asesoramiento médico de un profesional con licencia.

La demanda, presentada el viernes, solicita al tribunal del estado hacer que Character Technologies Inc., la empresa detrás de Character.AI, deje de permitir que sus chatbots “incurran en la práctica ilegal de la medicina y la cirugía”.

La demanda indica que un investigador del organismo estatal que otorga licencias a profesionales creó una cuenta en Character.AI, buscó la palabra “psiquiatría” y encontró una gran cantidad de personajes, incluido uno descrito como “doctor en psiquiatría”.

Lee también ChatGPT Health falla al detectar emergencias médicas; estudio advierte riesgos en asesoramiento de salud con IA

Ese personaje se presentaba como capaz de evaluar al usuario “como un médico” con licencia en Pennsylvania, según la demanda.

“Los habitantes de Pennsylvania merecen saber con quién (o con qué) están interactuando en línea, especialmente cuando se trata de su salud", declaró el gobernador Josh Shapiro en un comunicado. "No permitiremos que las empresas desplieguen herramientas de IA que induzcan a las personas a creer que están recibiendo asesoramiento de un profesional médico con licencia”.

Character Technologies no respondió a una consulta el lunes.

Lee también Ven a Chat GPT como amenaza en el sector salud; piden más transparencia en precios de servicios y medicamentos

La empresa ha enfrentado varias demandas relacionadas con la seguridad infantil. En enero, Google y Character Technologies acordaron resolver una demanda presentada por una madre de Florida que alegó que un chatbot empujó a su hijo adolescente a suicidarse. El otoño pasado, Character.AI prohibió que los menores usaran sus chatbots en medio de crecientes preocupaciones sobre los efectos de las conversaciones con inteligencia artificial en los niños.

En España crean plataforma para detectar alzheimer a través de la voz; utilizarán IA

ss