Daniel Innerarity: “La construcción de un espacio digital basado en el comportamiento pasado, arruinaría la posibilidad de un futuro abierto”

Daniel Innerarity es un destacado pensador, reconocido por obras como "La democracia del conocimiento", o "La sociedad invisible", que obtuvo el Premio Espasa de Ensayo 2004. Durante su visita a nuestro país a participar del Congreso Futuro. A propósito de su planteamiento sobre la utilización de Inteligencia Artificial (IA) para mejorar la toma de decisiones en democracia, con base en nuestras preferencias personales. Frente a ello, planteó la pregunta de si esta tecnología tiene la capacidad de satisfacer nuestras necesidades reales, o más bien generar nuevas que luego puede satisfacer con mayor facilidad. Más de sus reflexiones, en la siguiente reseña.

El peligro de tomar decisiones con base en nuestro comportamiento registrado

Al comenzar su alocución, comentó que hay un creciente malestar en relación con la democracia en nuestras sociedades. Este malestar tiene múltiples causas, algunas razonables y otras no tanto, y se puede resumir en dos grandes temas de descontento democrático. “El primero es una cuestión de desconocimiento. Nos quejamos de que los gobernantes no comprenden lo que realmente queremos, o que no les interesa, o que no miran donde deberían. Sin embargo, nosotros tampoco conocemos bien a nuestros gobernantes. La complejidad del mundo actual hace que las decisiones se basen en información que a menudo resulta oscura”, señaló.

El segundo tema es la delegación. “Aunque los políticos conozcan nuestra opinión -por ejemplo, tras una votación o un referéndum, como ha ocurrido aquí en Chile- la política tiene un elemento de delegación que hace que nuestra opinión solo se tenga en cuenta en momentos puntuales. Entre estos momentos de verificación, hay largos periodos en los que nuestra opinión puede ser olvidada, debilitada o incluso traicionada”, agregó.

En este marco, planteó que si este panorama es correcto se podría plantear la hipótesis que un gran dispositivo tecnológico como la IA y sus algoritmos podrían rastrear y conocer con más precisión lo que realmente queremos. “En lugar de una política monopolizada por partidos ideologizados, tendríamos un gran dispositivo tecnológico que verificaría nuestros deseos reales, no lo que hipotéticamente creen que queremos, y lo haría de manera continua. Una vez recogida esta información sobre nuestras preferencias, podríamos tener una democracia de recomendaciones, es decir, una toma de decisiones basada en nuestro comportamiento registrado. Esto se lograría a través de nuestra movilidad, opiniones en redes sociales y otros datos. En vez de votar, contaríamos con datos objetivos. Esta idea desafía la noción tradicional de la votación, que pronto podría convertirse en una reliquia del pasado”, explicó.

Respecto de esta posibilidad, manifestó que no se siente entusiasmado. “Después de registrar nuestras preferencias, ese dispositivo tendría que agregar las preferencias individuales en una resultante final. Esto plantea varios problemas que nos ayudarán a entender mejor la democracia. Primero, hay un problema de identificación de las preferencias. ¿Son realmente nuestras las preferencias que registra este mecanismo? Todos sabemos que el capitalismo no solo registra preferencias existentes, sino que también crea necesidades. La pregunta es si está satisfaciendo necesidades reales o generando nuevas necesidades que luego pretende satisfacer”, añadió.

En la misma línea, afirmó que los ciudadanos no somos exactamente lo que dejan ver nuestras huellas digitales o nuestros registros de consumo y movilidad. “Hay un elemento de construcción de esas preferencias que debemos considerar. Además, debemos preguntarnos cuándo esas preferencias se deducen de nuestro comportamiento pasado, lo cual introduce un sesgo hacia el pasado. Una democracia basada en datos siempre registrará comportamientos del pasado. Esto sería un comportamiento radicalmente determinista, pensar que nuestras acciones pasadas se repetirán en el futuro ignora nuestra capacidad de cambiar. Si bien actuamos de forma conservadora y rutinaria, también aspiramos a romper con ciertas costumbres”, sostuvo.

En consecuencia, la digitalización debería respetar lo que Innenarity llama “nuestro yo aspiracional", es decir, el deseo de no estar en estricta continuidad con el pasado. “Por ejemplo, Massachusetts aprobó en 2016 una ley que prohíbe preguntar a los candidatos sobre su historial salarial durante entrevistas laborales. Esta idea refleja lo que defiendo para el mundo digital, que el pasado no debería convertirse en un ancla. La construcción del espacio digital, basada únicamente en el comportamiento pasado, arruinaría la posibilidad de un futuro abierto. La filósofa Hannah Arendt decía que lo que nos caracteriza como humanos es nuestra imprevisibilidad y capacidad de generar cosas nuevas. Debemos proteger nuestras aspiraciones futuras y aquellas preferencias que aún no están formuladas”, complementó.

Idea de la agregación tecnológica

Entre otras ideas, planteó que si nos preguntáramos sobre nuestro nivel de conciencia medioambiental, seguramente nuestra declaración sería más alta que nuestro comportamiento real. “Esto significa que podemos aspirar a ser mejores de lo que somos. Esa discrepancia es algo que una democracia basada en datos no puede registrar adecuadamente”, señaló.

Asimismo, el segundo conjunto de problemas tiene que ver con la agregación de preferencias. “Supongamos que hemos logrado registrar correctamente esas preferencias -aunque sean del pasado- ahora tendríamos que agregarlas para obtener un resultado colectivo. En sociedades plurales, los intereses y preferencias son diversos y muchas veces incompatibles. Esto nos lleva a cuestionar si es una buena idea hacer esta agregación automáticamente. Históricamente, reducir problemas políticos a soluciones tecnológicas no ha funcionado bien. Los problemas políticos deben resolverse mediante lógicas e interacciones políticas”, explicó.

La idea de una mera agregación es problemática porque reduce a los ciudadanos a emisores de señales, por lo que nuestra ciudadanía no debería limitarse a eso. “Debemos examinar la compatibilidad de nuestros intereses con los de otros. Para ello existen parlamentos y espacios de conversación democrática. Esta agregación tecnológica no permite pensar en la sociedad ideal a la que aspiramos.

Para concluir esta interrogante planteada al inicio, formuló la pregunta: ¿sobrevivirá la democracia a la inteligencia artificial?. “Soy optimista por razones epistemológicas. No es que la inteligencia artificial esté destinada a destruir la democracia, es simplemente que tiene una lógica diferente. La inteligencia artificial es útil para problemas donde dispone de grandes cantidades de datos y donde hay claridad entre entrada y salida. Sin embargo, en el ámbito político -donde las soluciones son inciertas y aproximadas- los humanos tomamos mejores decisiones”, sostuvo.

En última instancia, su reflexión se centró en la idea de que hay democracia precisamente porque tenemos incertidumbres sobre lo que nos conviene y sobre nuestras aspiraciones. Por eso hemos creado instituciones democráticas basadas en la reflexión, el debate y la argumentación razonada. Su exposición en el Congreso Futuro 2025, en el siguiente video.

Por equipo Asia Pacífico: asiapacifico@bcn.cl