Resistencia algorítmica: educar para preservar la autonomía en la era de la inteligencia artificial

La expansión de los algoritmos y de la inteligencia artificial está transformando las formas de informarse, relacionarse, tomar decisiones y aprender. Frente a este escenario, la filósofa española María José Codina propone pensar en prácticas de “resistencia algorítmica” que permitan recuperar conciencia sobre la influencia que ejercen estos sistemas y preservar la autonomía y la libertad de las personas.

Codina es doctora en Filosofía por la Universidad de Valencia, máster en Ética y Democracia, miembro del Grupo de Investigación en Bioética de esa universidad, adjunta de coordinación de la Red Iberoamericana de Grupos de Investigación en Bioética y profesora de Filosofía en educación secundaria. Ha realizado estancias de investigación en la Universidad de Georgetown, en Estados Unidos, y en la Universidad de Aarhus, en Dinamarca. Es autora de artículos en revistas especializadas, capítulos de libros y ponencias en congresos internacionales. Durante su visita a la Universidad de la República presentó sus reflexiones sobre resistencia algorítmica y educación en el Instituto de Justicia y Desigualdad Social.

“Que los algoritmos estén al servicio del ser humano”

¿Qué significa el concepto de resistencia algorítmica y por qué considera necesario incorporarlo al debate educativo actual?

La resistencia algorítmica son prácticas de cómo resistir a la influencia de los algoritmos, puesto que nos influyen de una forma en la que no somos conscientes. Entonces, las prácticas de resistencia algorítmica implican tomar conciencia de cómo nos están influyendo y cómo hacerles frente para que no nos invadan de forma que nos resten, fundamentalmente, autonomía y libertad.

Eso no significa que no podamos utilizar algoritmos o inteligencia artificial, sino que estos tienen que estar al servicio del ser humano y no el ser humano al servicio de quien es dueño de los algoritmos.

Utiliza también el concepto de “algorosfera”. ¿Qué se entiende por este término y de qué manera los algoritmos nos están condicionando? 

La algorosfera es un espacio ciberfísico, en tanto incluye todos los aparatitos que llevamos: la pulsera, el reloj, los electrodomésticos que llevan inteligencia artificial, etcétera. Es ese espacio ciberfísico en el que hay un volcado masivo de datos, porque continuamente las personas usuarias están volcando datos de sus rutinas, de sus pulsaciones, de qué comen o dejan de comer, de qué búsquedas hacen en internet. Entonces hay una dataficación comportamental: se recogen todos esos datos para hacer perfiles del comportamiento individualizado de las personas.

Es un espacio ciberfísico gobernado por los algoritmos que controla, mediante una vigilancia masiva, esos datos que estamos volcando continuamente para hacer ese perfil comportamental.

Trabaja también sobre la educación de virtudes cordiales, inspirada en la ética de la razón cordial de Adela Cortina. ¿Qué virtudes considera fundamentales para desenvolverse en la algorosfera y ejercer una ciudadanía democrática?

Yo diría tres: la creatividad ética, la esperanza y la compasión.

La virtud de la creatividad ética sería tener el hábito de poder ser personas imaginativas para pensar soluciones. Hasta hace relativamente poco en la historia de la humanidad, los problemas habían sido más o menos los mismos y entonces habíamos aprendido que frente al problema A tenemos la solución A y frente al problema B tenemos la solución B.

Pero la situación ha cambiado tanto que vivimos en una sociedad muy incierta, con problemas a los que jamás nos hemos enfrentado como especie humana, y necesitamos mentes creativas para hacer frente a sus problemas. No simplemente creatividad por sí, sino una creatividad ética que tenga en cuenta que tiene que haber un bien común al que queremos ir acercándonos.

La esperanza sería tener el hábito de no tirar la toalla. Lo más fácil es decir: “Esto es dificilísimo, no podemos hacer nada”. La esperanza es ver qué granito de arena puede aportar cada cual dentro de sus posibilidades y pensar que es posible un mundo mejor. Y entonces la creatividad tendría sentido cuando hay esperanza. Si no hay esperanza, no puede haber creatividad.

La compasión sería como la guía, la brújula que nos marca el norte. La creatividad ética es importante, la esperanza es importante, pero ¿hacia dónde? Tendríamos que tener en cuenta que la compasión implica ser capaz de sentir el dolor ajeno y querer hacer algo con ese dolor, que te mueva a la acción, que quieras intentar ayudar respecto a ese dolor. Entonces sería el motor que se juntaría con la esperanza y la creatividad para pensar cómo salir de ciertas situaciones.

No hay soluciones cerradas ni varitas mágicas. Se trataría de educar en esas virtudes, en esos hábitos, para que sean el motor de pensar con esas herramientas qué podemos hacer, sabiendo que la solución no está dada, pero que hay que ponerse a ello.

“La resistencia algorítmica es una práctica de cuidado”

¿Cómo se relaciona la resistencia algorítmica y la ética del cuidado? ¿Qué significa cuidar en un entorno educativo cada vez más atravesado por las tecnologías digitales?

Creo que uno de los diagnósticos que podemos hacer hoy en día es que el cuidado está en desuso. Hemos dejado de cuidar. Hay una despersonalización brutal: quien piensa distinto a mí ya no es un adversario, es un enemigo a abatir, a derrotar, a destrozar. Hemos dejado de cuidar al diferente, hemos dejado de cuidarnos a nosotras mismas como personas y hemos dejado de cuidar el planeta.

Creo que el cuidado lo tenemos que poner en el centro, porque es lo único que nos va a salvar como humanidad. Al final, nuestra especie es totalmente interdependiente. Somos de los seres más vulnerables que hay en todo el planeta y necesitamos los unos de los otros para poder salir adelante.

Tenemos un cerebro que está preparado para cooperar y no para competir, aunque nos empeñemos en educar siempre en la competición. Nuestro cerebro es un órgano social que nos facilita la cooperación, que tiene que estar basada en el cuidado.

La relación entre ambos conceptos es que la resistencia algorítmica es una práctica de cuidado de la autonomía de las personas, de su libertad, pero también es un cuidado de la democracia, porque realmente la colonización algorítmica pone en alto riesgo la democracia y lo estamos viendo en el panorama actual mundial que tenemos.

Desde la neuroeducación, ¿qué sabemos sobre los efectos que tienen los entornos digitales sobre procesos como la atención, la motivación, las emociones y el aprendizaje?

Los efectos son nefastos y visibles. Uno de los efectos más directos es el daño que se hace a las redes atencionales de nuestro cerebro. Nuestro cerebro es un órgano plástico: según tu actividad, lo que tú haces, tu cerebro modifica su estructura para fortalecer unas redes y eliminar otras mediante la poda sináptica.

¿Qué ocurre cuando un adolescente está muchas horas al día con TikTok y con Instagram? Primero, la atención se secuestra, en el sentido más literal de la palabra. Está secuestrada, de forma que se pierde la noción del tiempo. Un adolescente puede pensar que lleva 20 o 30 minutos mirando TikTok y luego, si hay alguien cronometrando, igual lleva tres horas y cuarto. Ha perdido totalmente la noción del tiempo.

Pero además no ha trabajado la atención. La atención se atrofia porque son cosas tan rápidas y tan banales que no hay posibilidad de focalización. No son capaces de recordar aquello que han visto durante más de tres horas. Si no son capaces de recordar, significa que la atención no se está entrenando por más tiempo que pase.

Eso en las aulas se traduce en una incapacidad neuronal para prestar atención a lo que está ocurriendo en el aula, porque están atrofiando sus redes neuronales, porque no las utilizan y el cerebro lo que no utiliza lo pierde.Y respecto a las emociones, están totalmente manipuladas, porque las reacciones emocionales son instantáneas, son muy rápidas. No hay reflexión de por medio.

A ti te ha llegado un contenido que te provoca mucha ira. Si estás entrenado en la autorregulación emocional, puedes decir: “Me ha llegado este contenido, me provoca mucha ira, voy a parar, voy a chequear si es verdad, voy a ver si esto ha pasado”. Haces un poco de reposo y un ejercicio de reflexión para ver qué ha pasado realmente.

Si eso no lo entrenas, lo que se provoca es una reacción automática de odio y de rechazo hacia algo que seguramente no está fundamentado porque era una noticia falsa, por ejemplo. Entonces las emociones se capturan para promover movimientos sociales que son como olas repentinas de opinión y odio hacia una cosa, y la gente se suma a esas olas creyendo que odia eso sin saber que realmente está siendo manipulada.

“El riesgo fundamental es la pérdida de la propia identidad“

¿Qué riesgos implica para la autonomía de las personas, particularmente de niñas, niños, adolescentes y jóvenes, crecer y educarse en entornos digitales diseñados para captar y retener la atención?

El riesgo fundamental es la pérdida de la propia identidad. Si perdemos la autonomía y perdemos nuestra libertad, perdemos quiénes somos, porque creemos que estamos decidiendo de forma libre, pero esa libertad es como una ficción, como una fantasía.

Esos perfiles comportamentales hacen que te ofrezcan productos que saben que tú vas a querer comprar antes incluso de que tú sepas que los quieres comprar. Entonces están condicionando tus decisiones: dónde gastas el dinero, adónde vas, a quién votas, a quién no votas, qué cosas quieres, a quién sigues y a quién no sigues.

¿Cómo influye eso en niños y adolescentes? Muchísimo, porque sus cerebros todavía no están formados. Una persona adulta que, además, en su vida anterior no ha estado expuesta a todas estas cosas tiene herramientas para gestionarse, para limitar o para ser más crítica. Pero un niño o una persona adolescente que no sólo ha crecido con esas tecnologías, sino que ha socializado con ellas, porque su forma de relacionarse con sus iguales es mediante esos sistemas algorítmicos, está mucho más expuesto.

También normalizan todo aquello que van recibiendo mediante esos algoritmos. Es una sobreexposición a ciertos contenidos que van interiorizando y configurando quiénes son, cuál es su carácter y qué decisiones toman.

Educar para una “vida buena”

¿Qué herramientas debería proporcionar la educación para que las personas puedan relacionarse de manera crítica con los algoritmos?

La educación siempre ha tenido la responsabilidad de formar a los sujetos de una forma integral, desde la autenticidad de quién es cada cual. Es decir, acompañar a cada persona a que desarrolle sus capacidades y sus potencialidades y a que pueda diseñar lo que desde la filosofía llamamos el proyecto de vida buena.

Cada cual diseña su proyecto de vida buena. Lo que es una vida buena para ti no tiene por qué coincidir en absoluto con lo que para mí. Pero la educación tiene la responsabilidad de que, primero, sepas qué es para ti la vida buena, que sepas quién eres, qué quieres y qué no quieres. No que desde fuera te hayan estado bombardeando con qué significa una vida buena: ser muy exitoso, conseguir mucho dinero de determinada forma. Realmente no son elecciones tuyas, sino elecciones impuestas que obedecen fundamentalmente a intereses económicos o ideológicos.

La inteligencia artificial es una herramienta muy poderosa que sirve para muchísimas cosas que antes eran impensables y que son muy valiosas. Pero corremos el riesgo de que, como la inteligencia artificial está fundamentalmente privatizada, porque hay muy poca inteligencia artificial que sea libre o que pertenezca a una institución gubernamental, lo que esté de fondo sea el rédito económico, que es lo que busca toda empresa. Entonces estamos dejando en manos de esas empresas la mercantilización del alumnado.

La responsabilidad de la educación sería, por tanto, educar para identificar cuáles son los riesgos que se están teniendo en manos de esa privatización de la inteligencia artificial y que las personas sean conscientes de qué factura les va a pasar, para que puedan tomar sus propias decisiones y protegerse al respecto.

Ante este escenario, ¿cómo debería cambiar el papel de los docentes frente a estudiantes que conviven cotidianamente con algoritmos?

A los docentes no les podemos pedir milagros. Quienes deberían primero tomar las riendas de la situación serían los Estados, poder ser una federación de Estados. Porque cuanto más unión haya, más fuerza pueden hacer contra las grandes tecnológicas para frenar y regular ciertas cosas.

Debe haber una regulación en la que haya una mínima de acceso. Los niños tampoco pueden conducir un coche antes de los 18 años. ¿Por qué? Porque se supone que no son maduros y que pueden provocar accidentes. Pues también tiene peligros meterse en unas redes sociales que saben, además, que están diseñadas para provocar adicción y secuestrar la atención. Las grandes tecnológicas las han diseñado explícitamente para eso. No es una sorpresa ni es una consecuencia imprevista que de repente han visto que ocurre.

De hecho, Meta perdió un juicio en Estados Unidos por violar las leyes de protección contra menores de edad y su diseño adictivo.

Esas prácticas adictivas no han sido un daño colateral imprevisto. Se han diseñado así para poder sacar el máximo rédito económico a esa captura de atención y a esas prácticas adictivas. ¿Por qué hay edad para beber alcohol o para conducir un vehículo y no puede haber una edad mínima necesaria para poder estar expuesto según qué contenidos? Estás en un momento de desarrollo de tu cerebro que puede hacer daños que sean complicados después de revertir.

La regulación, desde mi punto de vista, debería también regular las mentiras. No pueden ser impunes las mentiras. Tú no puedes generar olas de opinión basadas en mentiras para derrocar un gobierno, para ir en contra de un personaje o para odiar al extranjero.

En las redes sociales se comparte mucha información y en los medios de comunicación también, pero ¿cuál es la diferencia? Los medios de comunicación están regulados y tienen códigos éticos y profesionales y legislación que regula qué pasa si un periodista sale diciendo una mentira. Pero en las redes sociales no hay ninguna regulación respecto a las mentiras. Los docentes pueden alertar y pueden educar, pero si eso no se acompaña de una buena regulación es pedirles demasiado. No podemos pedirles que vayan en contra del mundo.

“La universidad tiene que tomarse en serio el reto de la inteligencia artificial”

¿Qué papel juega en este escenario la inteligencia artificial generativa, que cada vez es más utilizada por estudiantes?

Ahora, por ejemplo, hay un debate en España muy importante respecto de qué sentido tienen los títulos universitarios si no se cambia la forma de evaluar al alumnado. Porque realmente el alumnado no ha pasado por el proceso formativo que le capacita para ejercer aquella profesión que ha estado estudiando. Ese proceso formativo no ha pasado por esa persona: la inteligencia artificial generativa ha sido la que ha hecho un producto final, en forma de trabajo u otros.

Entonces, eso es un problema, pero es que luego esas personas van al mundo laboral. Tienen que trabajar. Y ahí repercute en toda la sociedad: qué profesionales van a estar ingresando al mundo laboral y realmente qué competencias han adquirido y qué capacidades tienen.

¿Qué responsabilidad tienen las universidades, particularmente las públicas, en la formación de ciudadanos capaces de comprender el alcance de estas tecnologías?

Tienen que asumir en serio el reto de la inteligencia artificial en la formación de quienes van a salir de las universidades. La universidad tiene una responsabilidad porque cuando alguien termina un grado universitario le da un título en el que dice que esa persona puede ejercer esa profesión. Y eso no es inocuo: esa persona después va al mundo y va a actuar.

Tienen que tomarse en serio que es un reto y que todas las universidades están metidas en ello, para ver cómo hacen para contrarrestar los problemas de la inteligencia artificial. No quiero decir que sean irresponsables y que no se lo tomen en serio, pero tienen que pensar cómo hacer realmente para contrarrestar eso y para que la formación siga siendo una formación de calidad.

Por otra parte, creo que deberían incluir la ética en todos los estudios universitarios para formar también en ese espíritu crítico, en entender realmente qué es el bien común y qué es la justicia. La responsabilidad que tiene la universidad en ese sentido es tomarse en serio la formación de la ciudadanía que va a salir como profesionales al mundo y remar en ese sentido. En la medida de lo posible, porque también tienen posibilidades de influir en las políticas que pueda haber en sus territorios: intentar emitir informes, estudios e investigaciones que muevan, que obliguen de alguna forma o que fuercen esa regulación.

“Lo más urgente ahora mismo es proteger a niños, niñas y adolescentes”

Si tuviera que señalar un desafío urgente para el sistema educativo frente a la expansión de la inteligencia artificial y los algoritmos, ¿cuál sería?

Lo que es muy urgente para mí ahora mismo es la protección de niños, niñas y adolescentes. Creo que hay una generación que ya tiene un daño muy grande y que las personas que ahora tienen 16 o 18 años son una generación que tiene un daño ya considerable. Vamos a ver qué ocurre con esa generación, porque sí es cierto que ahora hay más conciencia de los peligros y no es tan fácil ver a madres y padres que dan a sus hijos a los tres años el móvil para que se entretengan. Cada vez hay una conciencia mayor de que eso es un peligro y las cosas pueden ir cambiando en ese sentido.

Pero lo más urgente ahora mismo es protegerles de esos daños y ver cómo se revierten. Por ejemplo, nunca ha habido un nivel tan alto de autolesiones en población infantil y adolescente, de problemas de salud mental y de un sentimiento de soledad exacerbado.

Algo tenemos que hacer para protegerles. Todo eso tiene mucho que ver con cómo están socializando: por una parte, en soledad, porque no hay tanta socialización de piel a piel como antes, y por otra parte, con lo dañinos que son esos sistemas que tienen los algoritmos, programados para que sean así de adictivos.

Eso es una urgencia y hay que empezar por ahí.