FdA #90 - Puentes Bajos, Algoritmos y Otras Formas Sutiles de Poder
Sobre cómo la tecnología, desde la infraestructura física hasta el algoritmo, determina quién accede, quién queda fuera y por qué.
“La tecnología no es ni buena, ni mala; ni es neutral.”
— Melvin Kranzberg
Esta cita desafía la idea cómoda de que la tecnología es solo una herramienta pasiva, esperando a que alguien la utilice bien o mal. Lo que Kranzberg nos recuerda es que toda tecnología nace, se diseña y se implementa en un contexto social, cultural y político concreto. Cada artefacto, cada algoritmo, lleva impreso el sello de sus creadores y de las intenciones -conscientes o inconscientes- que los moldearon.
El Poder Oculto del Diseño
¿Te has parado a pensar que una simple decisión de diseño puede definir quién accede a una oportunidad? O quién se queda fuera. Esto no va de teorías conspiranoicas, es política camuflada con un traje de tecnología. No se trata de código, se trata de poder.
Barreras invisibles
Hace ya unos cuentos años, alguien se preguntó si la tecnología afecta a la política y, más importante aún, si las propias máquinas, infraestructuras y algoritmos disponen de ciertas relaciones de poder, antes incluso de que nadie las use.
Ese alguien es Langdon Winner, filósofo y politólogo destacado por su análisis crítico de la tecnología. Uno de sus ensayos más famosos es Do Artifacts Have Politics?. Su tesis es que las tecnologías no son neutrales. Aunque a priori solemos valorarlas por su impacto a nivel de utilidad, también son parte importante en la distribución de poder y la autoridad dentro de una sociedad.
Uno de los ejemplos más ilustrativos de Winner es el de los puentes bajos de Robert Moses en Nueva York. Durante el siglo XX se diseñaron más de 200 puentes y pasos elevados en Long Island. Tenían una peculiaridad: eran muy bajos. Un autobús no podía pasar por debajo. Esto afectaba negativamente a cualquiera que no dispusiera de vehículo propio -sobretodo comunidades pobres y negras- de modo que no podían acceder, por ejemplo, a la playa pública de Jones Beach. Ese pequeño detalle técnico era una barrera de exclusión social. Barrera invisible, pero muy real.
Otro curioso ejemplo es el del cosechador mecánico de tomates de California. Durante las décadas de los 60 y 70 la Universidad de California desarrolló una máquina que podía recolectar tomates a gran escala. Un triunfo de la eficiencia y la tecnología, sin duda. Hay un pero. La introducción de esta máquina destruyó muchos empleos rurales, al mismo tiempo que beneficiaba solo a los grandes propietarios que podían permitirse la máquina. Y hay otro pero. Se crearon nuevas variedades de tomates más resistentes para adaptarse a esta máquina. Spoiler: eran menos sabrosos. La tecnología fue un elemento central al determinar quién se quedaba y quién tenía que salir de ese mercado. También influyó enormemente en qué tipo de producto llegaba a las mesas para ser comido.
Aunque el primero es un ejemplo bastante claro de maldad intencionada, no ocurre lo mismo con el segundo, no parece que hubiera ninguna mala intención. No siempre hay alguien queriendo hacer daño en las sombras, me atrevería a decir -o por lo menos es lo que quiero pensar- que la mayoría de las veces las intenciones son buenas. Pero el caso es que algunas decisiones tienen un impacto negativo de segundo orden que es muy complicado prever.
Te cuento mi caso. Yo confundo algunos colores y las paso putas cuando me enfrento a un mapa con veinte tonos de marrón, naranja y verde en la leyenda. Acabo dudando si estoy viendo montañas, bosques o la ruta a Mordor. Pero soy consciente de que no hay una conspiración oculta contra los daltónicos.
La tecnología nunca es solo tecnología.
¿Podemos identificar las malas intenciones?
La respuesta rápida es que sí, pero no siempre es tan sencillo. Un diseño pensado para excluir o influir puede pasar desapercibido inicialmente por su justificación en términos de eficiencia, seguridad o modernidad. Sin embargo, tarde o temprano sus efectos quedan descubiertos y se revela la orientación inicial del diseño y los intereses que había detrás del mismo.
El poder está incorporado en el propio diseño, por eso el resultado nunca es totalmente neutral. Además, más allá de la intencionalidad, hay tecnologías que por su propia naturaleza solo pueden existir bajo ciertas estructuras de poder. Es el caso de la bomba atómica que, debido a su complejidad y riesgos, solo puede gestionarse bajo una autoridad centralizada y rígida.
La gran pregunta es: ¿quién puede detectarlo a tiempo y tiene poder para corregirlo?
El caso de los algoritmos
Antes el poder se escondía en el cemento y el acero, pero actualmente dispone de un camuflaje más sutil y al mismo tiempo más amplificador. Se trata del código. Los algoritmos gobiernan redes sociales, procesos de selección de personal, sistemas de crédito bancario o de justicia predictiva. Ninguno son ejemplo de neutralidad, todos toman decisiones de forma poco transparente y a veces con poco control.
Inicialmente se venden como imparciales, pero detrás de cada parámetro y de cada decisión sobre qué optimizar, hay unos intereses que pueden ser culturales, económicos, políticos o una mezcla de todo ello. El poder sigue estando en el diseño, aunque en este caso se trate de algo intangible.
Las infraestructuras físicas pueden observarse, tocarse, hacerse evidentes y criticarse en el espacio público, mientras que los algoritmos suelen operar de forma opaca. Rastrear los sesgos se hace difícil. Por ejemplo, piensa en la lógica del algoritmo de recomendación de TikTok, o en las reglas de moderación de X. ¿Quién lo supervisa?
En el caso de la IA generativa, las grandes plataformas deciden con qué datos se entrenan y qué limites existen en cada modelo. La selección que hacen define los límites del conocimiento accesible y las voces presentes (o ausentes).
Los artefactos digitales también están contaminados de política. Importante estar atentos, porque el poder implícito puede ser más difícil de detectar y de corregir.
Críticas a la tesis de Winner
Una de las principales críticas que recibe es la supuesta sobredimensión del papel que juegan los artefactos, dotándolos de agencia propia, cuando en realidad son las personas quienes acaban diseñando e implementando la tecnología. Es un buen punto, la política podría estar más en las relaciones alrededor de la tecnología que dentro de ella. Un puente bajo no es racista, igual que un sofá “enclenque” no es gordófobo.
Por otro lado, tenemos las críticas que vienen desde el constructivismo social de la tecnología, es decir, la corriente que afirma que los objetos tecnológicos se desarrollan mediante la técnica pero también a partir del resultado de procesos sociales. Sostienen que el significado político de la propia tecnología depende siempre del contexto. Un mismo artefacto podría tener efectos sociales opuestos en diferentes sociedades o épocas.
Y finalmente, otra crítica habitual es hacia la falta de criterios claros para poder distinguir cuándo un artefacto es político. Los dos ejemplos expuestos en este post, extraídos del paper de Winner, son bastante claros. Ahora bien, es cierto que en muchos casos puede ser algo mucho más difuso. Por ejemplo, las aceras anchas en el centro de algunas ciudades, ¿se diseñaron para fomentar la vida pública y la igualdad de acceso? ¿O para incentivar el consumismo y las zonas comerciales exclusivas?
Conclusiones
La próxima vez que escuche eso de “la tecnología es neutral”, intentaré preguntarme quién la ha diseñado y si existe una toma de decisiones silenciosa que condicionan el acceso. Como dice Winner, más allá de la utilidad del artefacto está el poder escondido en su diseño.
Detrás de cada infraestructura, aplicación o algoritmo hay múltiples elecciones humanas. A veces serán muy explícitas, a veces serán aparentemente invisibles, el caso es que podrían determinar el reparto de oportunidades y riesgos. La tecnología puede imponer y perpetuar desigualdades, pero también abrir nuevas posibilidades.
Hoy se codifica en unas líneas de código, mañana puede convertirse en parte de la normalidad.
La tesis de Winner es un excelente punto de partida para pensar el poder en la tecnología, pero tampoco es la última palabra. Quizás la verdadera política de los artefactos reside en el diálogo constante entre diseño, contexto y uso social. ¿Dónde termina el artefacto y empieza la política? Quizás nunca lo sepamos del todo, y ahí reside el desafío.
Recomendaciones de la Semana
📚 Lecturas
¿El “movimiento ancestral” es la solución definitiva para tu bienestar… o solo una moda más? En este post, Oriol Roda desmonta mitos y verdades sobre el movimiento ancestral, explicando de forma honesta qué hay detrás de esta tendencia tan de moda en el mundo del fitness y la salud. No se queda en la superficie: analiza los argumentos de sus defensores, revisa la evidencia científica y da su opinión sobre hasta qué punto tiene sentido imitar a nuestros antepasados en nuestros hábitos diarios. Si te interesan la salud, el entrenamiento y las modas que surgen en torno al cuerpo, este artículo te ayudará a separar el marketing de lo realmente útil. Muy recomendable para leer con espíritu crítico.
¿Sabías que Hemingway le escribió una carta demoledora a Scott Fitzgerald? Este artículo rescata ese intercambio y analiza lo que podemos aprender sobre amistad, creatividad y límites personales a través de sus palabras. Un texto breve pero lleno de matices, perfecto para quienes disfrutan de la literatura y las anécdotas reales entre escritores legendarios. Si te gustan las historias humanas detrás de los grandes nombres, este post te va a enganchar.
🎧 Podcasts
Entrevista a Paloma Hernández, autora del libro “Islam y feminismo”. En ella explica su visión sobre los diferentes tipos de feminismo y, el que más curioso me ha parecido, el que proviene del propio Islam.
Episodio de Punzadas Sonoras dedicado a reflexionar sobre la idea de límite no entendido como el lugar en el que las cosas terminan (como muro, norma o restricción) sino como un espacio de libertad y oportunidad. En palabras de Heidegger: «El límite no es el punto en el cual termina una cosa, sino - como bien sabían los griegos - aquello a partir de donde una cosa inicia su esencia».
No conocía la cita ni el ensayo de Winner. ¡Gracias por iluminarme!
Impresiona que un puente bajo o un algoritmo opaco pueden ejercer el mismo poder silencioso. De acuerdo que la tecnología no es neutra. Requiere de una labor comunitaria e internacional desvelar a quién sirve y a quién deja fuera para redistribuir su poder.
Muy interesante 😃. Lo incluimos en el diario 📰 de Substack en español?