Se encuentra usted aquí

El cerebro, ¿hackeado?

27/05/2019
02:42
-A +A

Una empresa china que hace préstamos a corto plazo, de las que nunca pierden, anunció que el único requisito para conceder un crédito era que les permitieras revisar tu teléfono celular durante 30 minutos. La respuesta fue tumultuosa. Analizaron aproximadamente 30 mil datos por teléfono, en promedio. Mediante una serie de algoritmos ya prefigurados (y que evidentemente han enriquecido) definieron a quién sí y a quién no le facilitarían el préstamo. La recuperación del dinero prestado fue la más alta que han tenido. Casi todos cumplieron en tiempo y forma. ¿Qué información extrajeron del celular de los clientes potenciales como para tomar decisiones tan rápidas y tan certeras? Ninguna en especial y toda la que estaba disponible a la vez. Cada pieza de información, en conjunción con otras, les permitió configurar un perfil altamente predecible del comportamiento de sus clientes. De entrada, por ejemplo, si tu teléfono tenía menos de 20% de batería disponible bajaban mucho tus posibilidades de ser acreedor, y así se iban engarzando unas cosas con otras: tu edad, tus preferencias, las apps que más usabas, las que no usabas, a dónde vas, en qué te mueves, las palabras que más buscas y un largo etcétera. El resultado fue un perfil cuantitativo y una decisión binaria: calificas o no calificas para el préstamo. Jamás entrevistaron ni preguntaron cuánto ganaban o donde vivían las personas. Moraleja: todo lo que quieras saber sobre alguien, y mucho más, está en su teléfono celular.

La cantidad de información que pueden analizar los sistemas “inteligentes” de algoritmos que simulan a las redes neuronales y que son la esencia de la inteligencia artificial, resultan inimaginables. Big data pero en serio. Y como además siguen incorporando cada vez más información, estos sistemas “aprenden” y cambian, son más precisos y más selectivos, y acaban por decirte lo que tienes qué hacer, a dónde debes ir, cómo vestirte, con quién platicar, qué comprar, por quién votar y en qué creer. ¿Ciencia ficción? Para nada. Recientemente conversé con Harri Hursti, famoso hacker que mostró lo vulnerable que son los sistemas de seguridad en los procesos de votación democráticos. Participó con sus “trucos de piratería electoral” en la elaboración de un documental que produjo HBO: Hacking Democracy. Es un investigador finlandés original y ameno, alternativo, dirían algunos. Es también un defensor radical del dominio público y un exitoso empresario. Se puede hackear lo que sea, me dijo. ¿Incluido el cerebro de otros?, pregunté. Una irónica sonrisa fue todo lo que obtuve por respuesta.

En todo caso, los primeros pasos ya se han dado. Existe suficiente información sobre cada uno de nosotros (de entrada en nuestros teléfonos celulares) como para personalizar noticias falsas y enviártelas directamente con una alta probabilidad de que te gusten, las creas, las reproduzcas e incluso dejarte en suerte para la siguiente, que seguramente llegará pronto, irá en la misma línea, con el mismo propósito. Se trata de mantener tu atención sobre el tema. Mientras más tiempo estás conectado más huella dejas y los sistemas inteligentes aprenderán cada vez más sobre ti. El asunto se vuelve también un problema legal y ético de gran complejidad. ¿Quién es el dueño de toda esa información que existe sobre ti? ¿Qué se puede y que no se debe hacer con ella? La verdad es que nadie sabe a ciencia cierta cómo regular la propiedad de los datos. ¿Dónde están los datos sobre mi persona, quien tiene acceso a ellos? Pues el problema empieza justo ahí, porque la información puede estar en todas partes y en ninguna: la nube, el panóptico vigilante del que hablaba Michel Foucault.

La información sobre cada uno de nosotros que voluntaria —y sobre todo involuntariamente— revelamos al navegar en internet, nos hace fácilmente manipulables. Si te topas con una nota que llama tu atención es probable que hagas clic y te metas a leerla. Puede ser una noticia falsa generada por un trol o por un sitio web que necesita más tráfico para vender mejor su publicidad. Si algo por el estilo te ha ocurrido, es posible que ya estés hackeado.

¿Qué nota fue la que llamó tu atención? ¿Por qué esa y no otra? ¿Será que ya estabas predispuesto? ¿Acaso te llegó a tu celular precisamente porque era altamente probable que te meterías a ese sitio?

Tratar de “piratear” el cerebro ha sido un tema del mayor interés científico desde siempre. Hoy los algoritmos que simulan el funcionamiento de nuestras redes neuronales y la capacidad de analizar millones y millones de datos a la vez, de identificar patrones invisibles y de poder verificar continuamente cuáles son nuestras preferencias, permiten sostener de modo empírico (aunque con cierta laxitud desde luego) que se puede hackear el cerebro de otros. O al menos que se pueden inducir conductas e influir determinantemente en las decisiones de otros a través de diversas plataformas. Las que tú prefieras, da igual. Si a esto agregamos que además es posible incorporar a los sistemas de inteligencia artificial botones capaces de disparar emociones (la ambición, el miedo, el odio, por citar algunas de las más socorridas), el sistema empieza a operar como un traje a la medida.

¿Qué tanto habrá influido ya en nuestras vidas esta intrusión en lo individual y en lo colectivo? No es fácil precisarlo. Lo que no parece tener sentido alguno es negarlo. Todo apunta a que está ocurriendo cotidianamente. ¿Hasta dónde esta tecnología puede realmente erosionar nuestra libertad? ¿Será cierto que las empresas o los gobiernos nos han hackeado? En esta perspectiva uno se pregunta: En serio, ¿es cierto entonces eso de que el cliente siempre tiene la razón o aquello de que el pueblo es siempre sabio? Quizá mucho de lo que decimos y de lo que hacemos es resultado de lo que nos transmitió un algoritmo que nos conoce mejor de lo que nos imaginamos, y no necesariamente provenga de un ejercicio de libertad reflexiva o de una fuente de información veraz y rigurosa.

Influir en otros conlleva una gran responsabilidad. Antaño era tarea reservada a los padres de familia, algunos maestros inolvidables, tu psicoterapeuta, ciertos líderes sociales, quizá ministros de culto para algunos, o personas que te inspiran una gran confianza. Tal vez algún buen amigo o tu médico de cabecera. Figuras que se han ido desvaneciendo por múltiples razones, algunas de ellas justificadas, otras no. Pero que ahora pudiéramos estar en manos de quienes solo tienen interés en manipularnos con fines comerciales o políticos me parece patético. Una gran tragedia y el preámbulo de una crisis humana sin precedentes.

Yo fui educado en una cultura liberal y creo en ella. Mi formación científica me permitió entender también que hay fenómenos que inciden en mi vida más allá de mi voluntad. Mis genes, para no ir más lejos. Lo que nunca pude anticipar es que llegaría un momento en el que seríamos capaces de analizar, con una gran capacidad informática tal cantidad de datos —internos y externos, subjetivos y objetivos— sobre alguien, y compararlos con los de otros millones de personas. No me imaginé que sería tan sencillo predecir con tanta exactitud nuestras decisiones ni manipular tan fácilmente nuestros sentimientos. No me imaginé que se podría piratear el cerebro de alguien, hackearlo, pues. Hoy me queda la duda, y me quedo también con la convicción de que, a la luz de estos desarrollos científicos y tecnológicos formidables, irreversibles, conviene replantearse algunas de las hipótesis liberales en las que me eduqué.

Embajador de México ante la ONU

Juan Ramón de la Fuente
Nació en la Ciudad de México en 1951. Estudió medicina en la UNAM y psiquiatría en la Clínica Mayo de Rochester, Minnesota. Ha publicado más de 200 trabajos originales y ha editado 20 libros sobre...