Derechos digitales: Habitar Internet en la era del capitalismo de vigilancia

“Un orden económico que se apropia de la experiencia humana como materia prima para prácticas de extracción, predicción y ventas. Una lógica económica parasitaria donde la producción de bienes y servicios queda subordinada a una arquitectura global de modificación del comportamiento”. Así define Shoshana Zuboff, economista y profesora emérita de la Harvard Business School, la época que estamos viviendo: el capitalismo de vigilancia. En el mundo de los gigantes tecnológicos y las máquinas inteligentes, la vida privada de las personas alimenta una economía orientada por algoritmos que direccionan y afectan la conducta. Esta nueva modalidad de mercado capitaliza hábitos, gustos y preferencias en un proceso de domesticación a escala global. ¿Cómo ejercitar la crítica y defender nuestra libertad personal en este escenario? En esta conversación Maricarmen Sequera, directora ejecutiva de TEDIC (Tecnología y Comunidad), traza las características del momento que nos toca vivir.

Se considera a los derechos digitales como la cuarta generación de derechos humanos, junto a los derechos ecológicos, el derecho a la democracia y el derecho a la solidaridad. ¿Cuáles son las características particulares de estos derechos digitales? ¿Qué instrumentos jurídicos los consagran y regulan?

Los derechos digitales son la forma de expresar de manera creativa los derechos humanos en Internet. Es decir, no existe en la doctrina legal este término, pero a su vez me parece muy interesante cómo esta terminología innovó la forma de abordar derechos históricos como nuestros derechos humanos. Este lenguaje coloquial/social para hablar sobre los derechos humanos en Internet tiene su base normativa en el derecho internacional público de los derechos humanos, ratificados por nuestro país y consagrados en la Constitución Nacional como derechos fundamentales. Todos estos instrumentos jurídicos se trasladan a Internet y tienen las mismas aplicaciones y procedimientos que en las instancias físicas. Por lo tanto, todas las normativas internacionales y locales referentes a derechos humanos, responsabilidad civil y penal, se trasladan al espacio digital. Esto significa que Internet no es un espacio libre de regulación, o anárquico, sino que implica los mismos derechos y responsabilidades que la vida offline. Por otra parte, se generan nuevas normativas, exclusivas de este “nuevo” ámbito, como son el principio de neutralidad en la red, privacidad por diseño, inteligencia artificial, machine learning, responsabilidad de intermediarios, o el uso de tecnologías de blockchain, entre otras. Las instancias de construcción de normativas vinculantes y no vinculantes se encuentran en constante desarrollo, entre ellas el Foro de Gobernanza de Internet (IGF, por sus siglas en inglés, de ICANN –Internet Corporation for Assigned Names and Numbers– y ONU), las reuniones de IETF (Internet Engineering Task Force), las de Internet Society y las de ITU (International Telecommunication Union). La complejidad de la infraestructura de Internet hace que la aplicabilidad de las disposiciones legales sea más difícil, pero no imposible. En TEDIC nos especializamos en analizar cualquier solución tecnológica desde una mirada centrada en la persona, es decir, desde una perspectiva de derechos humanos. Somos pioneros en Paraguay en trabajar el tema con este enfoque, diferenciándonos de los estudios jurídicos, que tienen un enfoque corporativo y de desarrollo.

¿Cuál es la relación de los derechos digitales con otros derechos existentes, tales como el derecho a la privacidad, la libertad de expresión y la libertad de información? ¿Existe colisión de derechos en algunos casos?

Como decía, los derechos digitales son nuestros derechos humanos aplicados a Internet y se complejizan porque la infraestructura de la red (capas compuestas por cables submarinos, fibras ópticas, paquetes de datos, servidores, enrutadores, nombres de dominio y telecomunicaciones en general) tiene una construcción técnica que parece “neutral” y hace suponer que en estos espacios no se ejercen los derechos, menos aún los derechos humanos. Pero esto ha cambiado desde que grupos especializados en estos temas han forzado a los gobiernos a tomar cartas en el asunto, así como a analizar el rol de las empresas en este ámbito para ejercer nuestros derechos. Por lo tanto, no existe colisión de derechos sino una reinterpretación de los derechos en espacios de Internet. Por ejemplo, el derecho a la privacidad es una garantía que nos protege de intromisiones abusivas en nuestras vidas. Es un derecho que nos da espacio para desarrollarnos en libertad, sin riesgos y sin represalias. Las formas de violación de este derecho se han vuelto muy sutiles, más sofisticadas, para invadir la vida íntima de las personas. Existe una gran industria de vigilancia que lucra con esta información mediante malwares remotos de los dispositivos, retenciones de metadatos, huellas digitales, biometría (reconocimiento facial, huella dactilar, iris, etc.), para la persecución de forma individual o masiva de nuestros hábitos en Internet. También se habla de “capitalismo de vigilancia”, término acuñado por la filósofa Shoshana Zuboff, quien lo define como un sistema de extracción masiva de información en el que las redes, las tecnologías informáticas y las propias vidas humanas son medios de producción imprescindibles para proveer datos personales, la auténtica materia prima del sistema. Somos seres humanos muy predecibles; con varios clicks la industria de vigilancia puede identificar nuestros gustos, nuestras redes y núcleos de contacto, nuestros hábitos de consumo, etc. Al capitalismo de vigilancia le conviene que estemos hiperconectados para ofrecernos más anuncios y ofertarnos a los anunciantes que quieren vender sus productos y servicios. No en vano los expertos acuñaron la clásica frase: “Si el servicio/app es gratis, es por que usted es el producto y paga con sus datos”.

Michelle Bachelet, alta comisionada de Naciones Unidas para los Derechos Humanos, dice: “La revolución digital plantea un considerable problema de derechos humanos a escala mundial. Sus beneficios indudables no anulan sus riesgos evidentes”. ¿Cuáles son esos riesgos?

En primer lugar, debemos desmitificar que Internet es el paladín de la democracia, que es un espacio de liberación, de procesos horizontales, etc. Obviamente, debemos rescatar aspectos muy positivos como la creación, difusión y acceso a la información y al conocimiento, que en nuestro país se traducen en campañas de escraches contra políticos corruptos, luchas por la defensa del medio ambiente, medios independientes y campañas contra la retención de datos de tráficos (#Pyrawebs), entre otros. Sin embargo, los años han demostrado que existe un desbalance, que Internet está más concentrada, controlada y vigilada. También existen graves problemas de conexión que reflejan la desigualdad del mundo offline, desigualdad de acceso y de calidades de Internet. No soy ludita ni me gustaría reaccionar con la típica frase “sin Internet vivíamos mejor”; soy más exigente en comprender el contexto tecnológico, en el que las máquinas y sus códigos están en manos de grandes empresas oligopólicas, teniendo en cuenta que la tecnología no es neutra y afecta la política y la vida cotidiana de las personas, segundo a segundo, bit a bit. Creo que debemos trabajar para una mayor apropiación tecnológica, mayor descentralización y más libertad, para lograr un empoderamiento real y político de esta revolución humana que es Internet.

¿Cómo conciliar la libertad de expresión con las restricciones a los discursos de odio en las redes solicitadas desde diferentes sectores?

El derecho a la libertad de expresión, como cualquier derecho humano, tiene limitaciones y excepciones; ningún derecho humano es absoluto. Otro derecho a resaltar, y que está muy relacionado, es el derecho al anonimato, reconocido por los relatores de Naciones Unidas como un derecho por excelencia que permite, por ejemplo, a personas queers –sean binarias o no binarias– explorar su sexualidad en línea; también posibilita que activistas puedan denunciar al gobierno sin riesgos a represalias, y que mujeres puedan alzar su voz y contar historias íntimas. Sin embargo, este derecho al anonimato no puede ser usado para incitar a la violencia a través de discursos de odio. Si bien no hay una definición canónica de discurso de odio, hay una definición jurídica basada en estándares internacionales de derechos humanos, que es la que está trabajada por organizaciones como TEDIC, y una definición social que se presta a mucha confusión porque amplía la definición a todo tipo de violencia, pero que ha complementado el análisis para abordar mejor los tipos de violencia que existen en Internet. El discurso de odio es muy específico y no está protegido por el derecho. Es más, es una de las limitaciones legítimas al ejercicio de la libertad de expresión; por ejemplo, la Convención Americana manda prohibirlo explícitamente. Tiene elementos muy concretos: por un lado, se lo define como incitación a la violencia contra un determinado grupo de personas o individuos. Y, por otro, se encuentra clasificado en un tipo penal muy específico en Paraguay, América latina y el mundo. El punto más controversial con respecto a este tipo de discurso es la forma de abordarlo. No estoy segura si se puede abordarlo en grados de tentativa. ¿Cuándo corroboramos la violencia? ¿Cuando ya ocurrió? ¿O lo hacemos previamente? La definición social ha colaborado a destrabar este análisis parcialmente, pero son procesos lentos y muy complejos. Me viene la clásica pregunta: ¿cuánta tolerancia hay que tener con el intolerante? La institución de la libertad de expresión no tiene respuestas definidas  para cuestiones como fake news, desinformación, discurso antiderechos, memes y humor con discurso de odio. Pero la gran pregunta es: ¿con qué medidas vamos a enfrentar esta intolerancia? Personalmente, como activista, creo que la mejor forma es la generación de más y mejor discurso. Por supuesto, se deberá incluir limitaciones, pero estrictamente definidas. Creo que la respuesta a esa violencia no puede llevar por delante nuestros derechos, de lo contrario retrocederemos décadas en toda la lucha por libertades.

© Laura Mandelik

Hablemos de los campos de aplicación de la inteligencia artificial. ¿Hasta dónde puede llegar el dominio del algoritmo?

La inteligencia artificial es un proceso de automatización de decisiones autónomas. Y está construida en base a líneas de códigos que buscan resolver un problema o realizar un cómputo denominado algoritmo. Según expertos, bajo ningún concepto el algoritmo es una herramienta que se utiliza para garantizar objetividad. La tecnología no es neutral y, en el caso de Internet, está construida por lenguajes de códigos y contenidos mayoritariamente provenientes del norte global, hombres blancos, cisgénero, heterosexuales y de habla inglesa. En resumen, los algoritmos son opiniones incrustadas en lenguaje matemático y que conllevan sesgos, entre los cuales se encuentran el sesgo estadístico (es un sesgo muestral;  es decir, un error en la toma de muestra da como resultado un algoritmo influenciado que clasifica de forma incorrecta otros tipos); el sesgo cognitivo (cuando la decisión está basada en la limitación de la capacidad de comprensión de una persona y pretende solucionar un problema sin una mirada integral o informada) y el sesgo cultural (basado en los prejuicios de la persona que construye el algoritmo y la mayoría de las veces puede ser considerado voluntario). Estos sesgos generan discriminación para acceder a servicios, a productos y al ejercicio de los derechos en línea. Por ejemplo, una persona desea contratar un seguro médico y el algoritmo la rechaza por tener antecedentes de enfermedades congénitas, por capacidad de pago, edad de riesgo, raza o género. Otro ejemplo: el acceso a un crédito bancario es evaluado por los movimientos corporales de quien lo solicita, a través de la velocidad de tipeo en el teclado del computador; así se estudia el nivel de desesperación o de alfabetismo de la persona y este análisis puede ser determinante para otorgarle o no el crédito. También están las discriminaciones más recurrentes, generadas por la tecnología de reconocimiento facial que clasifica a las personas afrodescendientes como delincuentes, más que a las personas de tez blanca. Y así podría seguir con interminables ejemplos de discriminación algorítmica. Sin embargo, no descarto que el algoritmo nos pueda ayudar a buscar soluciones y balancear la desigualdad que actualmente existe en Internet, siempre y cuando se incluyan más diversidades. Esto dependerá también de la ética basada en los derechos humanos de los propietarios del software y de la capacidad de los estados para regular esta área. La Unión Europea, pionera en recomendaciones en temas de inteligencia artificial, sugiere cinco mandamientos básicos: bien común, inteligibilidad y equidad, derechos y privacidad, educación con AI, no generar daños. Es un buen inicio para poner nuestros esfuerzos en construir una tecnología sin impacto negativo en la vida de la humanidad.

¿De qué manera las nuevas tecnologías interactúan con la praxis artística? ¿Cómo la afectan?

Creo que Internet es una herramienta que ha acelerado exponencialmente el acceso al conocimiento y la forma en que compartimos nuestra cultura y arte. En momentos pandémicos les artistes de Paraguay están repensando un espacio para habitar Internet de manera más permanente, no solo compartir o vender sus obras, sino construir sus obras allí. En un mundo interconectado necesitamos reflexionar y explorar la tecnología como herramienta política a través del arte. Será interesante canalizar la flexibilidad del arte para pensar los derechos humanos en la era digital. Me gustaría que el arte traslade su mirada combativa al espacio virtual como vehículo de transformación de discursos y debates que no se pueden realizar de manera confrontativa, directa y concreta, como se hace en la política, el activismo y la academia. Creo que el arte es una forma de llevar de manera lúdica ciertas reflexiones que conllevan un empoderamiento asertivo de estos espacios digitales.

Hace un par de semanas TEDIC presentó los resultados de un proyecto interdisciplinario desarrollado en plataformas digitales en el que confluyen arte y activismo. ¿Cuáles han sido las líneas conceptuales del proyecto? ¿En qué consistió, en líneas generales, y cómo se desarrolló?

La expo Pop-up tech: Cyborg Feminista, con obras de arte interactivas e instalaciones en una plataforma web (“museo virtual”), explora el punto en el que se insertan género, tecnología y derechos digitales (anonimato, libertad de expresión, datos personales y privacidad). Para crear esta propuesta nos basamos en nuestro programa de género y tecnología llamado CyborgFeminista, que utiliza como pilares fundamentales El Manifiesto Cyborg, de Donna Haraway, que plantea la unidad compuesta por lo humano y la máquina como metáfora para reevaluar la división entre hombre y mujer, y las reinvidicaciones de Sadie Plant que apuntan al vínculo entre las máquinas de fabricar telas y la programación para la feminización de la tecnología. Estas teorías son nuestras bases para plantear discusiones sobre el límite del género y la necesidad de que todas las personas –todas las identidades– puedan ejercer plenamente sus derechos en Internet. Fue un proceso de intercambio, de formación en derechos digitales durante siete días con expertos de TEDIC y de la región para nueve proyectos artísticos previamente seleccionados, presentados por Alegría González-Planás, Adriana Peralta y Jazmín Díaz, Bastión Moral, Naitsirc Ortsac, Brune Comas, Pamela Castillo, Lupita Quispe, David Amado y Amoral. Hubo una clínica de arte con Claudia Casarino, Fredi Casco y Alejandro Valdez para el desarrollo de estas obras visuales con uso de tecnología. La curaduría fue de Lucía Egaña (España). Acompañó la sistematización del proceso el poeta Eduardo Barreto. El proyecto fue financiado por Prince Claus Fonds y el Centro Cultural de España Juan de Salazar. El link de la expo (“museo virtual”) es: https://expo.tedic.org