LO QUE CONSTATAMOS
LO QUE QUEREMOS EVITAR
LO QUE PROPONEMOS
PREÁMBULO
"Esta tercera década [del siglo XXI] probablemente decidirá nuestro destino. ¿Haremos que el futuro digital sea mejor o nos hará peores? ¿Será un lugar que podamos llamar hogar?"
Shoshana Zuboff
Profesora en la Universidad de Harvard
La tecnología puede ser una herramienta maravillosa para la humanidad, que le ha permitido superar muchos obstáculos y aflicciones a lo largo de los siglos. Sin embargo, creemos que el paradigma dominante del desarrollo tecnológico actual no está completamente alineado con los intereses de la humanidad, y que existe una necesidad urgente de una profunda toma de conciencia pública que conduzca a una llamada por medidas políticas firmes para recuperar el control. Queremos seguir disfrutando de las ventajas que la tecnología nos ofrece, sin vernos obligados a soportar las consecuencias más dañinas que puede acarrear, ya sea por diseño o por falta de regulación.
Una parte sustancial de la tecnología digital y la inteligencia artificial que se promueve actualmente fomenta un entorno en el que los seres humanos son vulnerables y en el que su libertad e integridad están amenazadas. Corren el riesgo de ver su voluntad condicionada, de no poder tomar decisiones de forma autónoma y sin interferencias externas, de vivir bajo un estado de vigilancia en el que se ejerce un control intenso sobre sus vidas, o de encontrar cada vez más difícil discernir la verdad. Si permitimos que este modelo se consolide y arraigue, el mundo configurado por algunas de las tecnologías actuales podría convertirse, de manera irreversible, en uno en el que la propia humanidad no tenga lugar, porque las lógicas que entran en juego no reconocen su naturaleza única ni sus intereses. Incluso podría llevar a la extinción misma de nuestra especie.
Ante este riesgo existencial para la humanidad, este MANIFIESTO establece una serie de medidas urgentes para recuperar el control sobre la tecnología digital y garantizar que siga al servicio de los seres humanos, al tiempo que se contienen, de la manera más efectiva posible, las consecuencias adversas que presenta.
OFF THE MANIFESTO
RECUPERAR EL CONTROL SOBRE LA TECNOLOGÍA DIGITAL
Nos encontramos en un punto de inflexión histórico, donde el poder de la tecnología crece de forma exponencial y plantea un desafío sin precedentes en la historia de nuestra especie.
El despliegue tecnológico acelerado que estamos presenciando se produce con escaso control democrático.
Como los beneficios a corto plazo de muchas innovaciones tecnológicas tienden a percibirse más fácilmente que los riesgos que conllevan, la adopción apresurada de aplicaciones tecnológicas —por parte de individuos, profesionales, empresas, administraciones e instituciones educativas— resulta una tentación difícil de resistir en ausencia de barreras y protocolos claros que evalúen sus implicaciones y garanticen que respetan los derechos fundamentales y no contravienen el interés general.
En este contexto, rechazamos la idea de que nos enfrentamos a un determinismo tecnológico inexorable del cual sólo podemos ser espectadores.
Por el contrario, estamos convencidos de que debemos actuar para acordar un marco aplicable que reduzca el control tecnológico sobre los humanos, y en el que el desarrollo tecnológico esté al servicio de la humanidad, y no al revés.
LO QUE CONSTATAMOS
UNA EVOLUCIÓN PREOCUPANTE
Con independencia de las ventajas en términos de rapidez y eficacia que el desarrollo tecnológico actual brinda a la humanidad, observamos con preocupación tres dinámicas mediante las cuales la tecnología es susceptible de afectar al ser humano de manera fundamental:
1
La creciente asimetría entre las capacidades de los seres humanos y las de la tecnología, que puede ser utilizada por individuos u organizaciones —públicas o privadas— para ejercer control sobre otros, ya sea con fines comerciales, de seguridad u otros, reduciendo o anulando la libertad, el libre albedrío y el juicio individual.
2
Nuestra dependencia individual y colectiva de las infraestructuras digitales constituye una vulnerabilidad que puede ser explotada con fines maliciosos —criminales, terroristas o ideológicos— para paralizar, destruir o dañar elementos críticos de nuestra existencia.
3
La creciente autonomía de la tecnología implica una menor capacidad de control humano. Hasta hace poco, las máquinas eran dirigidas por personas; su creciente complejidad y autonomía hacen que su funcionamiento escape incluso a sus propios creadores, y que las máquinas empiecen a dar órdenes a los humanos.
Estas características de la evolución tecnológica ya están afectando profundamente a los individuos y a la sociedad. Entre otras cosas, observamos:
Un deterioro profundo de la atención y la salud mental en la población general —y especialmente en los jóvenes—, acompañado de un aumento del sentimiento de soledad e aislamiento. [1]
Un aumento significativo del control ejercido por estados autoritarios sobre sus ciudadanos, mediante sofisticadas redes de vigilancia basadas en la recopilación masiva de datos personales y su procesamiento mediante inteligencia artificial. [4]
Un olvido alarmante de funciones humanas esenciales (memoria, orientación, razonamiento o pensamiento crítico), modificando cualitativamente nuestra naturaleza y aumentando la dependencia de la tecnología. [2]
Una tendencia también en los estados democráticos a acumular y explotar en exceso los datos personales de los ciudadanos, violando su privacidad mediante, por ejemplo, el abuso del reconocimiento facial. [5]
La distorsión de procesos electorales clave a través de campañas de desinformación impulsadas por grandes plataformas digitales, que fomentan una polarización social y política intensa. [3]
Una alta concentración en el sector tecnológico, donde muy pocas empresas poseen un poder desproporcionado que les permite condicionar el comportamiento, las creencias y las decisiones de los ciudadanos, manteniendo incluso una posición dominante frente a los propios estados. [6]
Ciberataques contra infraestructuras críticas —como hospitales o redes eléctricas— que revelan la vulnerabilidadde una sociedad totalmente interconectada, en la que los criterios de seguridad no son suficientemente priorizados. [7]
Un impacto medioambiental cada vez mayor derivado del despliegue e intensificación del uso tecnológico: extracción dañina de minerales raros, aumento exponencial de satélites, emisiones digitales de gases de efecto invernadero, minería intensiva de criptomonedas, etc. [8]
Estos fenómenos aparentemente dispares están, en realidad, íntimamente relacionados. Son el reverso de la relación descontrolada que mantenemos con la tecnología, y de la que desconocemos el alcance de su verdadero potencial.
LO QUE PRETENDEMOS EVITAR
LOS PRINCIPIOS DE UNA ACCIÓN
En un entorno en el que la existencia humana en todas sus facetas resulta cada vez más condicionada por la tecnología, nos resistimos a aceptar:
-
Un mundo gobernado por las máquinas, en el que la tecnología alcance un nivel de autonomía tan elevado que escape por completo a la comprensión humana y pueda conducirnos en direcciones que no hayamos elegido nosotros
​
-
Que criterios fundados exclusivamente en la optimización reduzcan el perímetro de las actividades humanas de tal manera que nuestra especie se vea no solo marginada sino también desposeída de lo que es susceptible de contribuir a su realización.
​​
-
Que esté autorizado comercializar con la voluntad y la consciencia humanas, haciendo uso de datos personales y de modelos predictivos que limiten o inhabiliten la capacidad de cada uno de discernir lo que desea y, por lo tanto, debilite o aniquile su libertad.
​​
-
Que organismos privados posean en exclusiva tecnologías que les otorguen una posición dominante difícilmente reversible y concentren un poder que les permita controlar o condicionar una parte muy sustancial de la vida de las personas.
​
-
Que esté permitido discriminar o clasificar individuos o grupos humanos y darles o denegarles acceso a determinados recursos en base a criterios establecidos por máquinas, basados en la explotación de datos que no estén directamente relacionados con la finalidad para la que se establece esta categorización, conduciendo a situaciones arbitrarias u opacas y sin recurso.
​
-
Que no se pueda identificar el carácter artificial de una máquina, generando confusión entre lo humano y lo no humano. Que se usen tecnologías que, por diseño, presenten como veraces representaciones humanas artificiales.
​
-
Que los Estados utilicen la tecnología para ejercer un control excesivo y generalizado sobre sus ciudadanos y en especial, hagan abuso del reconocimiento facial o de tecnologías que no garanticen el anonimato en el espacio público; o se adjudiquen el derecho de trazar movimientos, transacciones o cualquier aspecto de la actividad humana.
​
-
Que se desplieguen tecnologías con una relevancia sistémica sin las precauciones de seguridad suficientes y puedan por lo tanto presentar una vulnerabilidad a gran escala.
​
-
Una humanidad cada vez más dual, en la que la apuesta de una parte de la población de fusionarse con la máquina obligase de facto al conjunto a hacer lo mismo o bien, condenase una porción de ésta a someterse a la primera.
Consideramos, en definitiva, que debemos garantizar un entorno que respete el carácter singular del ser humano y minimice las posibilidades de que la tecnología sea empleada para alienar al mismo y mermar su libertad.
LO QUE PROPONEMOS
UN LLAMAMIENTO A LAS AUTORIDADES Y LA CIUDADANÍA
Este manifiesto no pretende oponerse de ningún modo al desarrollo tecnológico como tal, del que reconocemos todas las ventajas, sino interpelar a las autoridades políticas y a la sociedad civil sobre el precio que la humanidad está pagando y los riesgos que asume si sigue aceptando un paradigma de despliegue tecnológico sin discernimiento ni control democrático, e incitar a actuar urgentemente para minimizar este coste.
Para preservar la libertad y la dignidad de las personas como valores cardinales en un contexto de creciente asimetría entre la tecnología y el ser humano, las democracias deben reinventar profundamente su repertorio de actuaciones y defender con mayor fuerza estos derechos. Los esfuerzos de algunos Estados o Regiones, tanto en materia de protección de datos, como en la elaboración de cartas o declaraciones de protección de los derechos digitales (Carta Española 2021, Declaración Europea 2023 o Carta Iberoamericana de marzo del 2023), son dignos de elogio, pero deben intensificarse y cambiar de escala.
Somos conscientes de que ello supone un verdadero desafío para sistemas políticos que tienden a confiar en el individuo para regular cuestiones consideradas privadas. Estamos, sin embargo, frente a tecnologías que tienen como efecto colateral anular la libertad individual y afectar lo que nos hace humanos. También entendemos que gran parte de los equilibrios económicos y geoestratégicos se apoyan en la competitividad tecnológica, lo cual disuade cualquier medida que pueda ser percibida como una limitación al desarrollo tecnológico. Por tanto, este reto existencial exige soluciones inéditas, más allá de recomendaciones blandas.
Sea cual sea el nivel de acción política, un cambio de paradigma sólo se producirá si se desarrolla una verdadera movilización ciudadana que ejerza la presión necesaria para situar esta cuestión en lo más alto de la agenda política. Por el momento, la opinión pública es más sensible a las ventajas a corto plazo del desarrollo tecnológico que a sus riesgos, que a menudo se desconocen. Son necesarios espacios de debate e intercambio parlamentario y de la sociedad civil que sopesen los riesgos-beneficios del paradigma tecnológico imperante y definan de manera conjunta los valores que deben orientar y enmarcar el desarrollo tecnológico.
Proponemos explorar un amplio espectro de medidas para responder a los retos que enfrentamos, entre las que planteamos considerar:
1
Medidas regulatorias jurídicamente vinculantes, entre las cuales:
​​
-
La prohibición de la publicidad microfocalizada.
-
La protección constitucional y transnacional de los neuroderechos (prohibición de acceder a nuestra actividad neuronal y recaudar sus datos con la posibilidad de interferir en nuestra actividad mental).
-
La promoción de legislación internacional para la prohibición de las armas letales autónomas.
-
La persecución de una “desescalada tecnológica” en los campos donde la tecnología tenga un impacto colectivo negativo probado y su despliegue implique un riesgo sustancial para el conjunto de la población.
-
Un derecho a la desconexión que garantice el acceso a servicios –en especial públicos– de manera no digital.
-
La obligación de las compañías tecnológicas de brindar acceso a aquellos datos que permitan a terceras partes, en el marco de la ley, analizar el funcionamiento de sus plataformas y algoritmos de forma autónoma.
-
La ampliación de protocolos encaminados a validar la adecuación ética de los algoritmos usados por las empresas y los gobiernos.
2
Medidas ligadas a la producción industrial y la comercialización, como:
​
-
La reintroducción y revalorización de la funcionalidad OFF en la concepción de aplicaciones y dispositivos tecnológicos.
-
Estrictos procedimientos regulatorios antes de poner determinadas tecnologías con efectos disruptivos en el mercado, como ya es el caso en sectores como el farmacéutico o el alimentario.
-
Medidas de formación, información y empoderamiento de los consumidores, inversores y profesionales para incrementar sus exigencias de adecuación de la tecnología con sus derechos e intereses.
3
Medidas en el ámbito de la investigación y la educación, tales como:
​
-
Una moratoria a la introducción indiscriminada de la tecnología en las escuelas por debajo de una determinada edad.
-
Una mayor formación a distintas edades sobre programación y funcionamiento general de los algoritmos para reducir la asimetría entre la tecnología y las personas.
-
Acciones sistemáticas dirigidas al colectivo de padres, madres y/o tutores/as para concienciarles de los riesgos a los que los jóvenes están expuestos.
-
La promoción de estudios profundizados sobre el efecto de tecnologías específicas sobre el individuo y la sociedad, en particular en materia cognitiva, sobre el comportamiento, el bienestar y la libertad.
-
Adecuación del uso de dispositivos a las edades de los usuarios, en particular de los smartphones y otros objetos conectados.
​
-
Regular la innovación tecnológica es complejo y constituye, junto la crisis medioambiental, el reto fundamental que afronta la humanidad. La cuestión es demasiado importante como para permitir que el debate se estanque con posiciones sectarias. La movilización no puede demorarse tanto como en el caso del medioambiente si queremos evitar llegar a un punto de difícil retorno. Por esto, urge un consenso para que se tomen medidas prontas y lo suficientemente eficaces como para responder a la magnitud del reto y aprovechar todas sus ventajas sin tener que asumir un coste desmesurado como si se tratara de algo inevitable.
Hagamos urgentemente lo necesario para que la humanidad tome las riendas de su propio destino y asegure su permanencia como especie libre.
APÉNDICE
[1].Entre otros, la psicóloga Jean M. Twenge de la Universidad de San Diego ha realizado muchos estudios que han revelado la magnitud del deterioro de la salud mental de los jóvenes durante la década 2010. Junto a Jonathan Haidt de la Universidad de Nueva York, han establecido correlaciones entre uso de los smartphones y este deterioro.
Ver por ejemplo:
Jean M. Twenge, “The Mental Health Crisis Has Hit Millennials. Why It Happened and Why It’s Bad For Democracy”, 25/04/2023.
“Smartphones and social media are destroying children’s mental health”, Financial Times, 10/03/2023.
[2].Ver por ejemplo
-
Los trabajos de Nicholas Carr, desde The Shallows. What the Internet Did To Our Brains hasta “Nicholas Carr: ‘Nos estamos volviendo menos inteligentes, más cerrados de mente e intelectualmente limitados por la tecnología’", BBC, 4/02/2021.
-
Will Conaway, “Technology Is On The Rise, While IQ Is On The Decline”, Forbes, 29/04/2020.
-
Adrian F. Ward, Kristen Duke, Ayelet Gneezy, and Maarten W. Bos, “Brain Drain: The Mere Presence of One’s Own Smartphone Reduces Available Cognitive Capacity”, Journal of the Association for Consumer Research, 04/2017.
-
Kaspersky Lab, La “amnesia digital” hace que no recordemos información que pensamos tenemos a mano, en especial en nuestros dispositivos móviles. Hace 8 años, la mitad de la gente ya no recordaba el número de su pareja cuando a principios de los 2000 recordaban decenas de números de memoria. Este fenómeno de externalización de la memoria se ha desde entonces expandido a otras facultades cognitivas, de forma cada vez más transversal, afectando ahora la capacidad para argumentar, cuando se recurre constantemente a servicios como ChatGPT.
-
[3.]Las investigaciones de The Observer y The New York Times revelaron hace unos años cómo Cambridge Analytica facilitó a la campaña de Donald Trump datos psicométricos muy precisos de decenas de millones de usuarios de Facebook, facilitando el envío de publicidad personalizada.
Más información:
-
Kurt Wagner, “Mark Zuckerberg says it’s ‘crazy’ to think fake news stories got Donald Trump elected”, Vox, 11/11/2016.
Víctor Muñoz, “Si crees que ahora hay desinformación sobre las elecciones, aún no has visto nada: prepárate para la IA”, El Confidencial, 04/06/2023.
[4].Ver por ejemplo:
Katie Canales & Aaron Mok, “El sistema de "crédito social" de China clasifica a los ciudadanos y los castiga con la reducción de la velocidad de Internet y la prohibición de volar si el Partido Comunista los considera poco fiables”, Business Insider, 28/11/2022.
BBC, “China, el Estado que todo lo ve…”, 26/12/2017.
​[5].Desde Occidente, observamos horrorizados el despliegue de tecnologías de vigilancia en China. Nos parece distóptica la omnipresencia de cámaras inteligentes y de controles biométricos que fomentan una sociedad del hipercontrol. Pero, al mismo tiempo, a base de “experimentos temporales”, también en nuestras democracias estamos cediendo a esta tentación. La videovigilancia con tecnología de reconocimiento facial abre una caja de pandora que amenaza nuestra privacidad y anonimato en el espacio público. Supone un salto diferencial hacia el rastreo sistemático de nuestros movimientos y el control de nuestras vidas. Nuestro rostro tiene esta particularidad de ser a la vez algo público (entendido como visible, al descubierto) y privado (porque recoge mucha información sobre nosotros, en especial nuestra identidad y nuestras emociones). Si la IA cruzada con la videovigilancia analiza en la vía pública lo que se esconde detrás de nuestra cara, perdemos el principal escudo que protege nuestra interioridad.
Más información:
-
Amnistía Internacional hizo un llamamiento para prohibir el uso de los sistemas de reconocimiento facial por considerarla una forma de vigilancia masiva que amplifica la actuación policial racista y amenaza el derecho de manifestación. Campaña: Your face is being tracked.
-
Luis Benvenuty, “Barcelona instalará 17 cámaras inteligentes en el paseo de Gràcia”, La Vanguardia, 8/04/2023.
-
Marilín Gonzalo, “Reconocimiento facial: los algoritmos que se quedan con tu cara”, Newtral, 17/02/2021.
-
Paloma Llaneza, “Cómo contarle tus ciclos menstruales a una app puede llevarte a la cárcel”, El País, 16/6/2022.
-
[6].Ver por ejemplo:
Capitalización de mercado de las mayores empresas de Internet del mundo en abril de 2023 (en miles de millones de dólares estadounidenses).
-
Casi todos los datos del mundo (99%) viajan a través de cables submarinos. El 70% de los proyectos globales de cable están liderados por Google, Facebook y otros, que ya gestionan más del 50% del ancho de banda del mundo. Con 21 cables submarinos, 6 de los cuales es el propietario exclusivo, Google es el campeón en este campo.
-
Bruce Schneier, “When It Comes to Security, We’re Back to Feudalism”, Wired, 26/11/2012.
-
Jaime Villamuera, “Google, de motor de búsqueda a imperio digital”, El Orden Mundial, 27/09/2022.
[7] Ver por ejemplo:
Clara Blanchar, “El ciberataque que sufre el Hospital Clínic de Barcelona procede del extranjero y obliga a anular 3.000 visitas”, El País, 06/03/2023.
Diego Hidalgo, “¿Debemos conectar todo a la red?”, El País, 9/03/2023.
[8] Ver por ejemplo:
"La huella de carbono del e-mail: ¿Qué es y cómo reducirla?", Creast, 24 de febrero de 2023.
Sarah Griffiths, “Why your internet habits are not as clean as you think”, BBC, 6/03/2020.
“Qué tanto contamina el bitcoin, la moneda que consume más electricidad que Finlandia, Suiza o Argentina”, BBC, 22/02/2021.
The annual electricity consumption generated by bitcoin is equivalent to that of entire countries.
El consumo anual de electricidad generado por el bitcoin es equivalente al de países enteros.
Off Manifesto
Off Initiatives
Resources
Get involved
About
Contact
The Manifesto
Signatories
Join us
Off EdTech
Demonstrations
Off Cafés
Off February
Newsletter
Books
Videos
How to’s
Products
Blog
Subscribe
Community
Donate
Our Story
Team & Friends
Press
©2025 Movimiento OFF
