Time Magazine, por Shoshana Zuboff:
George Orwell retrasó repetidamente la atención médica crucial para completar 1984, el libro que sigue siendo sinónimo de nuestros peores temores de un futuro totalitario, este mes hace 70 años que fue publicado. Medio año después del debut de su novela, estaba muerto. Debido a que creía que todo estaba en juego, lo perdió todo, incluido un hijo pequeño, una hermana devota, una esposa de tres meses y un público agradecido que canonizó su novela presciente y presuntuosa. Pero hoy nos persigue una pregunta: ¿murió George Orwell en vano?
Orwell buscó despertar a las sociedades británicas y estadounidenses a los peligros totalitarios que amenazaban a la democracia incluso después de la derrota nazi. En cartas antes y después de la finalización de su novela, Orwell instó a una «crítica constante», advirtiendo que cualquier «inmunidad» contra el totalitarismo no debe darse por sentado: «El totalitarismo, si no se combate, puede triunfar en cualquier parte.»
Desde la publicación de 1984, hemos asumido con Orwell que los peligros de la vigilancia masiva y el control social solo podían originarse en el estado. Nos equivocamos. Este error nos ha dejado desprotegidos de una amenaza igualmente perniciosa pero profundamente diferente para la libertad y la democracia.
Durante 19 años, las empresas privadas que practican una lógica económica sin precedentes que yo llamo capitalismo de vigilancia han secuestrado Internet y sus tecnologías digitales. Inventado en Google a partir del año 2000, esta nueva economía afirma de manera encubierta que la experiencia humana privada es una materia prima gratuita para convertirla en datos de comportamiento. Algunos datos se utilizan para mejorar los servicios, pero el resto se convierten en productos computacionales que predicen su comportamiento. Estas predicciones se negocian en un nuevo mercado de futuros, donde los capitalistas de vigilancia venden certeza a las empresas decididas a saber qué haremos a continuación. Esta lógica se aplicó por primera vez para descubrir qué anuncios en línea atraerían nuestro interés, pero prácticas similares ahora residen en casi todos los sectores: seguros, comercio minorista, salud, educación, finanzas y más, donde la experiencia personal se captura en secreto y se computa para las predicciones de comportamiento. Por ahora no es exagerado decir que Internet es propiedad del capital privado de vigilancia y está operado por éste.
En la competencia por la certeza, los capitalistas de la vigilancia aprendieron que los datos más predictivos provienen no solo del monitoreo, sino también de la modificación y dirección del comportamiento. Por ejemplo, para 2013, Facebook había aprendido a diseñar señales subliminales en sus páginas para dar forma a las acciones y sentimientos del mundo real de los usuarios. Posteriormente, estos métodos se combinaron con análisis emocionales en tiempo real, lo que permitió a los profesionales de marketing identificar el comportamiento en el momento de máxima vulnerabilidad. Estas invenciones fueron celebradas por ser efectivas e indetectables. Cambridge Analytica demostró más tarde que los mismos métodos podrían emplearse para moldear el comportamiento político en lugar del comercial.
El juego de realidad aumentada Pokémon Go, desarrollado en Google y lanzado en 2016 por una escisión de Google, llevó el desafío de la modificación masiva del comportamiento a un nuevo nivel. Los clientes comerciales, desde McDonalds hasta Starbucks, pagaron por “pisadas” a sus establecimientos en función del “costo por visita”, al igual que los anunciantes en línea pagan por el “costo por clic”. Los ingenieros del juego aprendieron cómo llevar a las personas a través de sus pueblos y ciudades a destinos. Que aportan beneficios, todo ello sin el conocimiento de los jugadores.
La democracia dormía mientras el capitalismo de vigilancia florecía. Como resultado, los capitalistas de vigilancia ahora ejercen una calidad de poder única del siglo XXI, tan inédita como el totalitarismo fue hace casi un siglo. Yo lo llamo el poder instrumentario, porque hace su voluntad a través de la arquitectura ubicua de la instrumentación digital. En lugar de un Gran Hermano íntimo que utiliza el asesinato y el terror para poseer a cada alma desde adentro hacia afuera, estas redes digitales son un Gran Otro: sistemas impersonales entrenados para monitorear y dar forma a nuestras acciones de forma remota, sin impedimentos legales.
El poder instrumentario entrega nuestro futuro a los intereses del capitalismo de vigilancia, pero debido a que este nuevo poder no reclama nuestros cuerpos a través de la violencia y el miedo, subestimamos sus efectos y bajamos la guardia. El poder instrumentario no quiere quebrantarnos; Simplemente quiere automatizarnos. Para ello, nos exilia de nuestro propio comportamiento. No importa lo que pensemos, sintamos o hagamos, siempre y cuando pensemos, sintamos y hagamos las cosas de manera que sean accesibles para los miles de millones de sentidos, computación, ojos y oídos que actúan.
El poder instrumentario desafía la democracia. Big Other lo sabe todo, mientras que sus operaciones permanecen ocultas, eliminando nuestro derecho a resistir. Esto socava la autonomía humana y la autodeterminación, sin las cuales la democracia no puede sobrevivir. El poder instrumentario crea asimetrías de conocimiento sin precedentes, una vez asociadas con los tiempos pre-modernos. El conocimiento de Big Other es sobre nosotros, pero no se usa para nosotros. Big Other sabe todo acerca de nosotros, mientras que nosotros no sabemos casi nada sobre eso. Este desequilibrio de poder no es ilegal, porque todavía no tenemos leyes para controlarlo, pero es fundamentalmente antidemocrático.
Los capitalistas de la vigilancia afirman que sus métodos son consecuencias inevitables de las tecnologías digitales. Esto es falso, es fácil imaginar el futuro digital sin capitalismo de vigilancia, pero es imposible imaginar el capitalismo de vigilancia sin tecnologías digitales.
Siete décadas más tarde, podemos honrar la muerte de Orwell al negarnos a ceder el futuro digital. Orwell despreciaba «el instinto de inclinarse ante el vencedor del momento». El coraje, insistió, exige que afirmemos nuestra orientación moral, incluso contra fuerzas que parecen invencibles. Como Orwell, piensa críticamente y critica. No dé por sentado la libertad. Luche por la única idea en la larga historia humana que afirma el derecho de la gente a gobernarse a sí misma. Orwell consideró que valía la pena morir por ello.
Nuestro Comentario:
Cuando la adoración del domingo se agite en la arena pública, ¿qué instrumentos se utilizarán para manipular a las masas y alinearlas con estas leyes?
Conexión Profética:
“A medida que las iglesias protestantes rechacen los argumentos claros de la Biblia en defensa de la ley de Dios, desearán imponer silencio a aquellos cuya fe no pueden rebatir con la Biblia. Aunque se nieguen a verlo, el hecho es que están asumiendo actualmente una actitud que dará por resultado la persecución de los que se niegan en conciencia a hacer lo que el resto del mundo cristiano está haciendo y a reconocer los asertos hechos en favor del día de reposo papal.” El Conflicto de los Siglos, pág. 649.