Más Información
Por considerar que esta tecnología puede ser utilizada para casos como vigilancia masiva , lo que va en contra de su ética, IBM anunció que ya no investigará, desarrollará ni ofrecerá software de reconocimiento o análisis facial de propósito general.
En una carta enviada al Congreso de los Estados Unidos, el CEO de IBM , Arvind Krishna expresó: " IBM se opone firmemente y no tolerará los usos de ninguna tecnología , incluida la de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y principios de confianza y transparencia".
También dijo que considera necesario que se genere un diálogo a nivel nacional para debatir sobre las implicaciones éticas de que la tecnología de reconocimiento facial sea empleada por los organismos nacionales encargados de hacer cumplir la ley.
La relevancia de ello es que recientemente estos sistemas han estado en la mira porque podrían ser parte de posible violaciones a la privacidad y para sesgos raciales.
Y es que si bien la tecnología de reconocimiento facial ha mejorado mucho en la última década gracias a los avances en inteligencia artificial . Se ha detectado que los sistemas, sobre todo los proporcionada por empresas privadas con poca regulación o supervisión federal, presentan sesgo en áreas como la edad, la raza y la etnia, lo que puede hacer que las herramientas no sean fiables para la aplicación de la ley y la seguridad y, por el contrario puedan ser utilizadas para infringir los derechos humanos.
Diversos estudios y analistas en Estados Unidos han comprobado los riesgos que los sistemas de reconocimiento facial implican en términos de violaciones de la privacidad pues, por ejemplo, algunos han utilizado las redes sociales para generar, sin el consentimiento de los usuarios, una base de datos que después se utiliza en empresas y por autoridades argumentando la seguridad nacional. Además de que la tecnología no siempre ha demostrado ser fiable en sus resultados
En su carta, Krishna también dijo que se necesitan crear vías más abiertas y equitativas para que todos los estadounidenses adquieran habilidades y capacitación comercializables y sugirió que el Congreso considerara escalar el modelo de escuela P-TECH de IBM.