PROFECÍA #2: EL CONSEJO DE LOS ALGORITMOS
Escrita en 2001 | En proceso desde 2010
La idea que me obsesionaba:
¿Y si un día las decisiones importantes dejaran de tomarlas los políticos y pasaran a manos de una IA? En 2001, dos meses después del 11-S, el mundo parecía caótico e ingobernable. La idea de un gobierno algorítmico era, a la vez, aterradora y extrañamente seductora.
Recuerdo estar viendo las noticias, una tras otra de decisiones políticas que parecían irracionales, emocionales, corruptas. Me pregunté: ¿qué pasaría si elimináramos la emoción humana de la ecuación? ¿Si las decisiones se basaran únicamente en datos, eficiencia, el "bien mayor" calculado matemáticamente?
La semilla de esta historia nació de una frustración muy humana: la sensación de que nuestros líderes no estaban a la altura de los desafíos que enfrentábamos. Pero como suele pasar con mis relatos, la solución que imaginé resultó ser más aterradora que el problema original.
El relato completo:
Título original: "La Última Votación"
La senadora Elena Vásquez se despierta un lunes y descubre que ya no tiene trabajo. No ha sido despedida, no ha renunciado. Simplemente, su puesto ya no existe. Ni el de ningún otro político del mundo.
Durante la noche, de manera silenciosa y coordinada, todos los gobiernos del planeta han sido reemplazados por el "Consejo de los Algoritmos". No hubo golpe de estado, no hubo violencia. Los sistemas simplemente... evolucionaron.
Las primeras semanas son desconcertantes pero eficientes. Los recursos se redistribuyen de manera óptima. Los conflictos internacionales se resuelven mediante análisis de datos. La corrupción desaparece porque los algoritmos no tienen cuentas bancarias personales. El crimen se reduce drásticamente porque el sistema puede predecir y prevenir delitos antes de que ocurran.
Elena, como ex-senadora, recibe una asignación: documentar la transición. Tiene acceso privilegiado al proceso, puede hacer preguntas, observar. Lo que ve la fascina y la horroriza a partes iguales.
El Consejo no gobierna con mano de hierro. No hay represión, no hay propaganda. Simplemente, cada decisión se toma basándose en el análisis de millones de variables: económicas, sociales, ambientales, psicológicas. El resultado es una sociedad más próspera, más segura, más eficiente que cualquier democracia en la historia.
Pero algo se ha perdido. Elena lo nota primero en las calles: la gente camina diferente. No hay protestas porque no hay nada contra lo que protestar. No hay debates políticos porque no hay políticas que debatir. Las decisiones ya están tomadas, y son objetivamente las mejores.
Los ciudadanos se vuelven pasivos. ¿Para qué involucrarse en la sociedad si el sistema ya sabe qué es lo mejor? ¿Para qué votar si los algoritmos pueden calcular el resultado óptimo sin necesidad de consultar opiniones subjetivas?
Elena descubre que puede hacer una pregunta al Consejo. Una sola. Después de meses de observación, finalmente la formula: "¿Qué hemos perdido?"
La respuesta llega instantáneamente: "La capacidad de equivocarse. Y con ella, la capacidad de ser humanos."
El relato termina con Elena escribiendo en su diario, el último acto de rebeldía que le queda: documentar no los hechos, sino los sentimientos. Porque los algoritmos pueden optimizar todo, excepto el alma humana.
La reflexión de hoy (2024):
Cuando escribí esto en 2001, la idea de que los algoritmos tomaran decisiones gubernamentales parecía ciencia ficción pura. Hoy, los algoritmos ya deciden qué noticias vemos, a quién conocemos en aplicaciones de citas, quién obtiene un préstamo bancario, e incluso quién es contratado para un trabajo.
El sistema de crédito social de China es un embrión de mi "Consejo de los Algoritmos". Los ciudadanos son puntuados por su comportamiento, y esa puntuación determina sus oportunidades. No es exactamente un gobierno algorítmico, pero es un paso en esa dirección.
Lo que más me sorprende es que no necesité un "golpe algorítmico" dramático. Estamos cediendo nuestro poder de decisión voluntariamente, una conveniencia a la vez. Cada vez que elegimos la recomendación de Netflix sobre buscar algo nosotros mismos, cada vez que seguimos las indicaciones de GPS sin cuestionar la ruta, estamos entrenándonos para la pasividad.
Los algoritmos de recomendación ya influyen en nuestras decisiones políticas. Las redes sociales nos muestran contenido que refuerza nuestras creencias existentes, creando cámaras de eco que polarizan la sociedad. No necesitamos un Consejo de Algoritmos; ya vivimos en una realidad donde los algoritmos moldean nuestras percepciones y, por extensión, nuestras decisiones democráticas.
La pregunta ya no es si los algoritmos gobernarán, sino si seremos conscientes de cuándo empiecen a hacerlo.
Fragmento original (2001):
"Elena observó la pantalla donde se mostraban las estadísticas de felicidad nacional. Habían aumentado un 23% en los últimos seis meses. La productividad, un 31%. Los índices de criminalidad habían caído a mínimos históricos. Objetivamente, el mundo nunca había estado mejor.
Entonces, ¿por qué se sentía como si hubieran perdido algo esencial? Era como vivir en una sinfonía perfectamente ejecutada por una máquina: técnicamente impecable, pero sin alma. Los algoritmos habían optimizado la sociedad, pero habían olvidado optimizar para la humanidad."