Martín Tironi | SDT

Categoría: Dataficación

  • world-making-algorithmic-politics // interview, Martín Tironi

    In this interview, Martín Tironi speaks about the challenges design is facing, the role of design in the acceleration of the digitization of daily lives, the notion of future, and the decolonization of design.

    Renato Bernasconi, docente de Diseño UC, entrevistó a Martín Tironi para la nueva plataforma Cumulus Connects.org. La entrevista fue titulada “World-making Algorithmic Politics”.

    En el espacio, el profesor Tironi habla sobre los retos a los que se enfrenta el diseño, el papel del diseño en la aceleración de la digitalización de la vida cotidiana, la noción de futuro y la descolonización del diseño.

     

    https://youtu.be/I0gYddjwlo8

  • ”El cobre del futuro son los datos”: Columna sobre estudio de caso Data Observatory

    Por Flavia Moens de Hase

    La dataficación, o la traducción de diferentes eventos a masivas cantidades de datos computables, está permeando diferentes industrias y ámbitos de acción en Chile, generando con ello nuevas oportunidades de creación de valor, así como también nuevas controversias. La fundación Data Observatory (DO) aparece como un caso de estudio particularmente interesante para comprender cómo se involucran una pluralidad de actores sociales (el Estado de Chile, empresas privadas, la academia, y en menor medida la sociedad civil) en la extracción y valorización de los datos digitales.

    ¿Qué es el Data Observatory?

    El DO es una fundación público-privada sin fines de lucro creada entre el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, el Ministerio de Economía, Fomento y Turismo, Amazon Web Services y la Universidad Adolfo Ibáñez. Esta fundación tiene por objetivo sacar el máximo provecho económico de los datos “públicos, de valor global y únicos” [1] que se generan en Chile. Así, la “visión” de la Fundación es “estar a la vanguardia de la innovación centrada en datos, liderando la producción de soluciones centradas en datos, talento y capital social.”[2].

    Pero esta visión centrada en datos de forma amplia, en sus inicios estaba más enfocada en un tipo particular de datos: los datos astronómicos. El origen del DO se remonta a 2016 con la creación de la Iniciativa Astrodata en la CORFO. Este proyecto buscaba aprovechar las supuestas “ventajas estratégicas” de Chile en astronomía para desarrollar la industria digital chilena a partir de la astro-informática (es decir, de la ciencia de datos en astronomía). La idea era desarrollar capacidades en procesamiento de datos a partir de la astronomía y luego traspasarlas a otros sectores.

    Después de haber realizado un trabajo científico para sentar las bases del proyecto y de haber pasado por innumerables cambios institucionales, el DO será formalizado gracias al decreto presidencial n°164 de 2018 que designa al ministro de Economía para conformarlo – al cual se suma el ministro de Ciencias con el decreto n°75 de 2019. Así, las actividades del DO inician en 2019 y se convoca a una propuesta de valor que culmina, en abril 2019, en el anuncio de los dos nuevos socios fundadores: la UAI y AWS. Sin embargo, esta formalización institucional no será el fin de la creación del proyecto que tendrá que pasar – hasta enero del 2021 – por una fase de negociaciones y re-negociaciones con la Contraloría General de la República a propósito de sus estatutos.

    La página web de la Fundación presenta esta iniciativa como lo que le permitirá a Chile y Latinoamérica de dar un paso en el sentido de la cuarta revolución industrial, permitiendo así el “bienestar social de las naciones”[3]. Para esto, su “misión” es:

    “adquirir, procesar y almacenar conjuntos de datos generados por organismos públicos o privados y que, debido a su volumen, naturaleza y complejidad, requieren curación, capacidad de exploración, visualización y análisis que faciliten la disponibilidad de dichos datos para el desarrollo de la ciencia, la tecnología, la innovación, el conocimiento y sus aplicaciones en la economía.” [4]

    En definitiva, lo que busca hacer el DO es obtener acceso a diferentes data sets (conjuntos de datos) – que pueden provenir de observatorios astronómicos, pero también de satélites, o incluso de entidades públicas – para aumentar su accesibilidad frente al público “general”. En otras palabras, el DO quiere lograr que cualquiera pueda trabajar con una base de datos compleja en poco tiempo incluso sin tener un conocimiento previo propio a la disciplina en la que los datos fueron originados. Para esto, se despliega toda una infraestructura: una vez obtenidos, los datos pasan por una tubería de procesos (pipeline de datos) que los pasan a un formato adecuado, los limpian, los clasifican, los estandardizan y los almacenan para disponibilizarlos en una plataforma de fácil uso. Hasta el momento el DO trabaja por proyectos y con convenios que tienen cada uno sus objetivos precisos. Así, las actividades de la Fundación pueden distanciarse en mayor o menor medida de lo explicado anteriormente.

    Abordaje metodológico

    En el estudio del caso, se buscó responder a la pregunta: ¿Cómo se institucionaliza, narra y disputa el desarrollo del Data Observatory? Para esto, la investigación estuvo centrada en realizar un análisis de discursos que se basó en dos etapas. Una primera parte del trabajo estuvo focalizada en analizar materiales secundarios como artículos de prensa, documentos producidos durante la creación del DO, sitios web de las diferentes organizaciones involucradas y los estatutos – rechazados y aprobados – de la fundación. La segunda parte consistió en realizar entrevistas con diversos actores que estuvieron involucrados en la creación, mantenimiento y desarrollo del DO. En total se realizaron 13 entrevistas con seis grupos de actores: los gestores y gestoras del DO, miembros que hicieron parte de alguna de las instituciones fundadoras o que hoy día hacen parte del directorio del DO (5); los miembros del equipo técnico del DO (1); los miembros del Comité Gestor del proyecto, es decir expertos senior extranjeros o chilenos (2); los miembros del Consejo Asesor del proyecto, expertos en astronomía y data science con menos experiencia que los expertos del Comité Gestor y que hacen parte de Universidades nacionales (3); miembros del equipo técnico de ALMA (1); y por último activistas en el sector de protección de datos (1). En lo que sigue, presentaré algunos de los principales hallazgos de este estudio de caso.

    Una Institucionalización Inestable

    Para responder a la pregunta de investigación se estudió, en primer lugar, la manera en la que el DO fue creado, confiriendo particular atención a la forma en la que se institucionaliza la economía basada en datos. En esta parte, se evidenció que el proceso de creación de la Fundación fue lento e inestable institucionalmente. En efecto, la continuidad del proyecto sólo es asegurada por una persona que fue siguiendo el proyecto a medida que este era traspasado de una institución a otra. Estos cambios institucionales – y sobre todo la decisión de poner al DO bajo el alero directo del Ministerio de Economía – fueron objeto de críticas y establecieron una ambigüedad con respecto a la gestión del proyecto. Esto produjo roces entre el mundo académico, político y gubernamental ya que este último, al integrar ciertas normas, prácticas y valores del mundo empresarial, se alejó de la manera en la que otros universos, y en particular la academia, parecen funcionar.

    El discurso de la innovación centrada en datos

    En segundo lugar, se examinó los diferentes discursos que los entrevistados tienen a propósito del DO y de sus actividades. Así, se pudo observar que sobre ciertos puntos – como los objetivos del DO o bien la conexión del DO con la astronomía – los discursos son contrastados, y sobre otros – como la voluntad de desarrollar capital humano y de trabajar con proveedores de nube – existe cierta continuidad. Asimismo, sabiendo que la tecnología no es neutra, se buscó deconstruir la “evidencia” tecnocrática que se instaló en el gobierno y que supone que la “mejor manera” de desarrollar la economía chilena es dándole cierta centralidad a los datos. Para esto, se partió de la expresión “innovación centrada en datos” que se consideró como un paradigma (Kuhn 1996) para ilustrar que se trata de una “verdad científica” que no representa un consenso indeterminado e incuestionable.  Se buscó entonces identificar los elementos que componen este paradigma y también las narrativas y estrategias de legitimización que lo acompañan a la hora de establecer y justificar un proyecto como el DO. Estrategias que, por lo demás, hablan de dependencias internacionales, jerarquías sociales y subordinación de ciertas formas de pensar. En efecto, se mostró que el paradigma de la “innovación centrada en datos” resume la convicción en que el crecimiento de la productividad científica debería incrementar el desarrollo económico. Correlación que parece estar demostrada “científicamente” y por ende enraizada en el inconsciente colectivo en un contexto en que la retórica científica predomina (Gatti y Martínez de Albeniz 2007). Además, el no-cuestionamiento del paradigma estudiado parece ser el resultado de un trabajo ideológico del colonialismo de datos en el que se construyen racionalidades para que la extracción y apropiación de datos parezcan normales e incluso benéficas, toda vez que los datos son enunciados como recursos naturales dispuestos a ser apropiados (Mejías y Couldry 2019).

    Por otra parte, dado que los datos no son el simple “rastro” de una interacción, sino más bien el resultado de un conjunto de prácticas sociales que los producen, interpretan y usan, se indagó en las diferentes maneras en las que se evoca el valor de los datos en este terreno. Así, se estudió por qué algunos datos no tienen valor y otros son de “valor global” y se mostró que para acceder al valor de los datos hay que poner en práctica una serie de técnicas de extracción de valor. Razón por la cual la analogía que establece que “los datos son el nuevos petróleo” tiene tanto éxito en los circuitos de la innovación centrada en datos. A partir del análisis de esta analogía, se expuso que la manera en la que se genera valor de los datos y lo que se puede hacer a partir de estos, parece tener más importancia para las personas que trabajan en el universo digital que la forma en la que se obtienen. En efecto, en lugar de ser reflexivos a propósito de los datos con los que trabajan, los individuos consideran los datos como “materia prima” desprovista de un carácter social. Interesándose después en el proceso de “curación” de datos que busca agregar valor a estos últimos, la investigación muestra la importancia que tiene la subjetividad a pesar de ser un trabajo automático. En otras palabras, la curación de datos será diferente para cada base de datos por lo que, aunque sea realizada por un algoritmo es importante que esté liderada por un experto que pueda definir los criterios de limpieza y clasificación de la base. Además, el análisis del discurso sobre la resignificación intersectorial del valor de los datos reveló que pareciera que los algoritmos de predicción son más valorados que los datos, aunque ambos vayan de la mano. No obstante, hay cierta mitología en torno a las potencialidades de este tipo de tecnologías de la cual el DO no es inmune, razón por la cual es importante ir más allá de los discursos mediáticos e interrogar sobre la arista más técnico-científica de lo que implican las tecnologías. O, en otros términos, “abrir la caja negra” de las tecnologías.

    Controversias en torno a la “buena” innovación centrada en datos

    En último lugar, este estudio de caso demostró que más allá de una concepción aparentemente consensual del DO como un proyecto de desarrollo económico y científico, existen fricciones y controversias que hablan de diferentes maneras de percibir lo que sería el “bien común” y el “buen” desarrollo. Primero se estudiaron las diferentes narrativas que vienen a explicar las razones por las cuales el DO ha sido criticado. Estas permitieron mostrar que algunos actores tienen ideas precisas de lo que sería la “buena” gestión de un proyecto estatal, la “buena” manera de comprender las iniciativas como el DO, la “buena” manera de financiar un proyecto así, o incluso la “buena” forma de trabajar en colaboración. Todos elementos que contribuyen a definir lo que sería el “bien común” para unos y para otros.

    Se examinaron en segundo lugar las opiniones que tienen los entrevistados a propósito de dos aspectos derivados de la controversia pública que hubo entre el DO y la Contraloría: el proceso de selección de los socios fundadores; y la elección de AWS como socio fundador. Este análisis permitió oponer visiones contrarias con respecto a preferencias institucionales del gobierno, maneras adecuadas de proceder y de vislumbrar lógicas de dependencia, dominación y control que se crean – y se perpetúan – cuando se involucran multinacionales de tecnología a proyectos pertenecientes al Sur Global.

    En tercer lugar, se investigaron las desilusiones y frustraciones que el proceso de institucionalización del DO produjo sobre los académicos que participaron del proyecto en su periodo inicial. Un elemento importante que surge es la desconexión progresiva entre el DO y la astronomía. Desconexión que generó cierto desinterés y desconfianza por parte del mundo académico pero que está por verse con la nueva colaboración entre el proyecto ALeRCE y el DO.

    Para terminar, el marco teórico de la soberanía de datos permitió cuestionar la evidencia de ciertos elementos del diseño del DO que se presentan como incontestables. Esta última sección buscó principalmente cuestionar el discurso sobre la democratización y gratuidad de los datos abiertos mediante el examen de lo que esconde la supuesta apertura de los datos y la manera en que éstos se administran. En resumen, hay varias razones por las cuales los datos abiertos del DO y de AWS no parecen promover un acceso igualitario a los data sets y al valor que se puede extraer de ellos, aunque mantengan un discurso humanista de “bien común”, gratuidad y democratización. La última fricción que se analizó fue la preocupación que produjo el uso de la nube de AWS con respecto a la seguridad de los datos. Elemento que permitió tratar las diferentes posturas de los entrevistados al respecto de la nube de AWS, la “letra chica” de la postura del directorio del DO, y temas como la propiedad del dato o la propiedad intelectual de lo que se genera a partir de los datos.

    Conclusiones: ¿En qué medida se trata de un proyecto estatal?

    En conclusión, pareciera que el Estado se presenta como precursor de iniciativas como el DO, pero que a medida que el tiempo pasa van surgiendo vacíos técnicos, legales y fricciones. Así, los agentes estatales se van dando cuenta en el camino que no tienen las herramientas. En consecuencia, la presencia del Estado se desvanece progresivamente. Ciertas decisiones que se van tomando en el proceso – como por ejemplo dejar entrar a AWS y establecer a la UAI como actor principal – parecen entonces ir determinando el futuro de la organización. En efecto, se produce cierto amarre institucional que va a condicionar las futuras negociaciones y controversias, por lo que estudiar la evolución del DO es primordial para comprender su institucionalización, los discursos heterogéneos que existen, así como las diferentes disputas que se generan.

    Referencias

    Gatti, Gabriel, y Iñaki Martínez de Albeniz. 2007. La producción de la identidad en la sociedad del conocimiento: cultura experta e identidad en el País Vasco. Donostia: Eusko Ikaskuntza (Sociedad de Estudios Vascos).

    Kuhn, Thomas S. 1996. The structure of scientific revolutions. 3rd ed. Chicago: University of Chicago Press.

    Mejías, Ulises A., y Nick Couldry. 2019. “Colonialismo de datos: repensando la relación de los datos masivos con el sujeto contemporáneo”. Virtualis 10(18):78–97.

     

    [1] Data Observatory. URL: https://www.dataobservatory.net/por-que-el-do/sobre-do/ (visitado por última vez el 14.01.2021).

    [2] Data Observatory. URL: https://www.dataobservatory.net/por-que-el-do/mision-y-vision/ (visitado por última vez el 14.01.2021).

    [3] Data Observatory. URL: https://www.dataobservatory.net/por-que-el-do/sobre-do/ (visitado por última vez el 14.01.2021).

    [4] Data Observatory. URL: https://www.dataobservatory.net/por-que-el-do/mision-y-vision/ (visitado por última vez el 14.01.2021).

  • Segundo llamado abierto para testear Big Sister

    Buscamos personas voluntarias para participar en el testeo de una nueva versión de la app Big Sister. Esta app fue desarrollada en el marco del proyecto de investigación Identidades algorítmicas entre  investigadores de la Pontificia Universidad Católica de Chile y la Universidad de Warwick, Inglaterra.

    Para participar, necesitamos que pruebes y uses la app Big Sister durante dos semanas y que nos permitas entrevistarte sobre tu experiencia. Queremos explorar en tus sensaciones y reflexiones acerca de la recolección y procesamiento de datos para hacer perfilamientos y recomendaciones algorítmicas. Al hacer más transparente estos procesos, también esperamos que la experiencia con Big Sister te de una idea más clara de cómo funcionan las plataformas digitales y sus algoritmos.

    Si quieres conocer más sobre el proyecto puedes visitar el sitio web identidadesalgoritmicas.cl en donde encontrarás más información sobre la app, el proyecto y algunos ejemplos de perfilamiento.

    Si te animas a participar,  te invitamos a responder el siguiente formulario de contacto: https://es.surveymonkey.com/r/NBVYCKV Al final de la entrevista, regalaremos una gift card de 15.000 pesos a cada persona participante.

     

  • Artículo publicado en revista Science as Culture

     

    Los investigadores Martín Tironi y Matías Valderrama publicaron el artículo “Experimenting with the Social Life of Homes: Sensor Governmentality and Its Frictions” en la prestigiosa revista Science as Culture. Esta es una versión mejorada y expandida de una investigación sobre la Red Nacional de Monitoreo (ReNaM) del Ministerio de Vivienda y Urbanismo.

    Como mencionamos en un post anterior, ReNaM consiste en una red estatal de 300 sensores en hogares de 5 ciudades de Chile que busca conocer en tiempo real el desempeño de las casas en variables como temperatura, humedad o CO2. Se espera que los datos sirvan para mejorar el diseño de las políticas y regulaciones en materia de construcción sustentable. Por ejemplo, con los datos de la ReNaM se ha investigado las diferencias térmicas entre casas de barrios ricos y pobres o los niveles de contaminación en ciertas ciudades como en esta nota de prensa: “Temperatura de una vivienda en La Pintana es 4 °C más baja que una de Las Condes”.

    En nuestro artículo interrogamos críticamente en las formas de conocimiento y poder que se activan con iniciativas estatales basadas en sensores como la ReNaM. Para eso nos basamos en los estudios de gubernamentalidad y los estudios de ciencia, tecnología y sociedad. Analizamos los guiones y objetivos de la ReNaM “desde arriba” por parte de sus coordinadores, no sin ciertas fricciones entre diferentes maneras de imaginar y materializar esta red de sensores, con objetivos explícitos en paralelo pero que a ratos chocan entre sí. Pero más importante, en esta versión desarrollamos más sobre la ReNaM “desde abajo” o como las personas conviven cotidianamente con los sensores. Más que una única forma de participación encontramos un espectro desde la total indiferencia a una total fascinación por los datos que se pueden recolectar de los sensores.

    Los hallazgos permiten especular en qué otras formas de monitoreo ambiental son posible mediante sensores, por ejemplo potenciando un monitoreo más colectivo que considere las re-orientaciones de los sensores para finalidades particulares, así como también las sensaciones previas o las sensibilidades más-que-digitales que, como desarrollamos en el articulo, van desde el contacto íntimo y físico a la presencia de hongos en los hogares. Todas estas consideraciones, invitan a pensar en formas alternativas de monitoreo mediante sensores.

     

  • SMART CITIES TECHNOLOGICAL AND SOCIAL INNOVATION

    El docente de Diseño, Martín Tironi, junto a Camila Albornoz, antropóloga UC, publicaron un capítulo en el libro “Smart Cities for Technological and Social Innovation: Case Studies, Current Trends, and Future Steps”, editado por Hyung Min Kim (University of Melbourne), Soheil Sabri (University of Melbourne), y Anthony Kent (Royal Melbourne Institute of Technology).

    El libro ofrece un marco teórico interdisciplinario para comprender la relación entre el paradigma de Ciudades Inteligentes y los conceptos de sustentabilidad, plataforma, sustentabilidad, colaboración,  vigilancia, etc. A través del análisis empírico de 12 casos alrededor del mundo, se identifica los factores de éxito y controversias vinculadas a las diferentes dimensiones y temáticas de la gobernanza Smart.

    En el capítulo titulado The circulation of the Smart City imaginary in the Chilean context: A case of a smart platform for governing security, Tironi y Albornoz proponen el concepto de “imaginario sociotécnico de la Smart City”, entendiéndolo como circuito heterogéneo, flexible y ambiguo que se adapta a los múltiples intereses que configuran la ciudad. Desde ahí, analizan críticamente cómo este circuito cultural de la Smart City logra su posicionamiento a través de eventos de innovación, laboratorios urbanos, proyectos gubernamentales, entre otros; articulando una red donde participan agentes del Estado, la ciudadanía, empresas privadas y universidades. Como foco empírico se analiza el caso de la plataforma de seguridad urbana SoSafe, explorando etnográficamente los alcances y límites de este sistema de seguridad y los efectos de este tipo de “urbanismo de plataforma” hoy emergente.

     

  • Conferencia “Lo social y lo digital en tiempos de crisis”

    Lo digital ha sido pieza clave en la primavera o despertar chileno de las últimas semanas, desde la organización de las marchas, los memes y videos compartidos por WhatsApp, la reproducción de desigualdades y la precarización laboral, las lecturas de la opinión pública mediante Twitter hasta las propuestas de apropiación o solucionismo tecnológico. Esto habla de la creciente digitalización de nuestro mundo, volviéndose necesario considerar cómo lo digital está moldeando la vida social contemporánea. Por eso, hemos aprovechado la visita de nuestra invitada internacional Shanti Sumartojo, para organizar una conferencia abierta en que podamos reflexionar sobre cómo el descontento social ha sido mediado, provocado y reconfigurado por lo digital desde sus múltiples aristas.

    Les invitamos cordialmente, entonces, a la conferencia “Lo social y lo digital en tiempos de crisis: desigualdades, políticas y materialidades”. Esta se realizará el martes 12 de noviembre de 2019, entre las 14:30 a 18:00, en el Auditorio FADEU del Campus Lo Contador, Pontificia Universidad Católica de Chile.

    “Viviendo en un mundo más o menos digital”

    Contaremos con la charla abierta de nuestra invitada internacional, Shanti Sumartojo, quien es profesora asociada en investigación en Diseño de la Facultad de Arte, Diseño y Arquitectura en Monash University, Australia; y miembro de The Emerging Technologies Research Lab, donde dirige el área de investigación ‘Future Shared Environments’. A través del uso de metodologías etnográficas, investiga cómo experimentamos los entornos espaciales, incluyendo aspectos materiales e inmateriales, con un enfoque en el entorno construido, el diseño y la tecnología. Sus publicaciones más recientes son The Exchange at Knowledge Market: An Urban Living Lab (2019) y Atmospheres and the Experiential World: Theory and Methods (2018).

    Como planteará Shanti, vivimos en un mundo digital, pero no en uno donde lo digital es monolítico, ubicuo o uniforme. Al contrario, los efectos de las tecnologías digitales fluyen en conjunto con materialidades, políticas y diversos objetos e interacciones del día a día. En esta charla Shanti abordará esto mediante la noción de “más o menos” digital, o los diversos enredos y significados de las tecnologías digitales en nuestros mundos experimentales.

    Para ello, se revisarán tres ejemplos. El primer caso, se desarrolla en torno a un evento colectivo de duelo y conmemoración, donde las redes sociales hacen, y a la vez son hechas, por un encuentro simultáneo entre lo espacial y lo material. El segundo caso abordará prácticas de self-traking, y la generación y uso de datos personales, procesos que fueron sentidos de distintas maneras, excediendo sus cualidades digitales. Y el caso final se centrará en la automatización y el uso de la luz, en el cual las tecnologías digitales sólo se hicieron evidentes a través de cualidades inmateriales y sensoriales que configuraron atmósferas especiales.

    Todas estas historias se sitúan en el encuentro entre individuos y tecnologías digitales, junto con los significados, sentimientos y sensaciones que infunden estas interacciones. Estos ejemplos provocaran un conjunto de observaciones sobre las tecnologías digitales, y su comprensión afectiva y sensorial de sus usos y significados, argumentando que los aspectos “más o menos” digitales de nuestras vidas, requieren enfoques que no separen o privilegien lo digital, más bien, debemos considerarlos parte del cómo diversos significados y relaciones se hacen en nuestros mundos experimentales.

    Panel de Discusión

    Tendremos también un panel de discusión con investigadores e investigadoras chilenas en temáticas ligadas a lo digital pero desde diferentes disciplinas. La idea es abrir un espacio para la discusión interdisciplinaria sobre las múltiples desigualdades, injusticias y urgencias que presenta el entretejimiento entre lo social y lo digital en nuestra sociedad contemporánea.

    Valeria Radrigán
    Directora creativa proyecto TRANSLAB. Doctora en Filosofía mención Estética y teoría del arte, Universidad de Chile. Master en Teoría del Arte Contemporáneo, U. Complutense de Madrid, España.

    Sebastián Valenzuela
    Profesor de la Facultad de Comunicaciones de la Pontificia Universidad Católica de Chile. Doctor en Comunicaciones de la Universidad de Texas, Estados Unidos. Investigador de CIGIDEN y del Instituto Milenio para los Fundamentos de los Datos (IMFD).

    Patricia Peña
    Profesora y coordinadora del Diplomado en Comunicación Digital del Instituto de Comunicación e Imagen de la Universidad de Chile. Periodista y Magíster en Comunicación de la Universidad Diego Portales y Magíster en Comunicación, Nuevos Medios y Sociedad de The London School of Economics and Political Science, Inglaterra. Directora de la Fundación Datos Protegidos.

  • El caso de SoSafe: Gestionando la seguridad urbana a través de una plataforma

    Por Camila Albornoz

    A mediados del 2018, conocí la App SoSafe por medio de algunos comentarios en grupos de Facebook destinados a crear espacios seguros para mujeres. En estos grupos se recomendaba bastante reportar sucesos de acoso, violencia intrafamiliar, robos o “individuos sospechosos” a través de esta App. Motivada por los diversos imaginarios emergentes a partir de estos comentarios, decidí descargar la app en mi smartphone para conocer sus prestaciones. Al poco tiempo, contacté a sus desarrolladores y comencé a realizar una investigación sobre esta plataforma.

    A grandes rasgos, SoSafe se define como una plataforma o “red social ciudadana” que permite reportar diversos sucesos situados en el espacio urbano, otorgando una geolocalización del reporte, y conectando a vecinos, municipalidades, instituciones (PDI, carabineros, bomberos) y algunos servicios (Aguas Andinas, Enel). Así, es posible reportar desde el robo a personas o vehículos, actividades sospechosas, accidentes o disturbios hasta un semáforo en mal estado, mascotas perdidas o alumbrado público en mal estado. Para usar esta app, sólo se necesita un smartphone y crear una cuenta de usuario con algunos datos de contacto (nombre, email, número de contacto y dirección), o iniciar sesión con facebook.

    En cierta medida, esta lógica de aplicaciones fundadas en el solucionismo tecnológico (Morozov, 2015), no es nueva y a nivel mundial es posible encontrar varios casos de éxito como Haus (Chile), NextDoor (Estados Unidos), FixMyStreet (UK) y CityCop (Estados Unidos), entre otros. Estas plataformas, no solo implica pensar el software como una arquitectura iterable y actualizable, sino que además implicaría pensar a los usuarios como productores de datos, y a los municipios como receptores y gestores de estos. La temática en torno a plataformas o aplicaciones cobra relevancia al encontrarse reconfigurando el entorno urbano, el acceso a servicios y entidades gubernamentales y cambiando las formas de compromiso ciudadano (Desouza & Bhagwatwar, 2012; Gabrys, 2016). Así también, esto ha llevado a sopesar las consecuencias de su uso y su capacidad para recopilar datos de los usuarios.

    En principio, esta investigación se basaba en describir la capacidad de los programadores de resolver problemas a través de códigos, y comprender cómo se toman ciertas decisiones de programación en torno a los acontecimientos que suceden afuera de esta suerte de laboratorio de programación. Sin embargo, a lo largo de la investigación fue tomando mayor fuerza el componente ciudadano y el rol de las municipalidades.  Por ende, el caso de SoSafe permite levantar diversas interrogantes ¿cómo se lograr codificar algorítmicamente el espacio? ¿cómo es este proceso de toma decisiones? Y también, ¿qué consecuencias tiene para los usuarios el percibir lo urbano desde una óptica de plataforma?

    El año 2013, uno de los cofundadores de SoSafe comienza a idear el primer prototipo de la actual aplicación. En particular, un hecho puntual lo llevó a pensar en cómo cambiar la gestión de la seguridad urbana en Santiago de Chile: Cuando aún era estudiante universitario, recibe una llamada que no contesta y de la cual desconocía su urgencia. Al rato después, devuelve esta llamada y su hermana informa que están robando en la casa donde residían. El actual CEO de la plataforma, recuerda que demoró unos 30 minutos aproximadamente en desplazarse desde la universidad a su domicilio, y junto a él venía llegando Carabineros y un auto de una empresa de seguridad privada.  La escena del robo se completa con algunos vecinos curiosos mirando el incidente.
    Luego de esta experiencia comienza a identificar ciertas problemáticas: los vecinos no se conocen entre ellos y, por otro lado, no conocen el número de seguridad ciudadana de la comuna. Todos los números de seguridad son de 4 dígitos y comienzan con “14”, pero los dos dígitos finales varían según la comuna y algunos vecinos simplemente llamaban a otra comuna.    

    En principio, la plataforma de SoSafe comenzó a ser utilizada por algunos municipios del sector oriente de Santiago. A la fecha, SoSafe posee más de 400.000 usuarios y conectada a más de 27 municipalidades. La plataforma continúa creciendo en la medida que se difunde más, ya sea al ser recomendada por amigos, juntas de vecinos, o al encontrarnos con publicidad de la app con el mensaje “vecinos organizados”, mientras recorremos diversas comunas (imagen 1). 

    Imagen 1: Anuncio en la comuna de Vitacura promocionando el uso de la app.

    En la medida que SoSafe se ha vuelto una aplicación masiva en la región metropolitana, ha logrado recopilar gran cantidad de datos, la cual ha sido sistematizada generando, por ejemplo, estadísticas de reportes para las municipalidades, indican dónde y cuándo ocurren los reportes. Además, los programadores también poseen métricas que ayudan a evidenciar actividad concreta en app, por ejemplo, cuántos usuarios activaron por primera vez la app, y cuantos “salen” o están inactivos; o el tiempo promedio en pantalla de los usuarios. Así también, que el producto final de SoSafe sea a través de software y no dependa de un hardware en específico -como muchos botones de pánico o alarmas- permite cierta flexibilidad y que esta herramienta se actualice a través del tiempo.

    Esta características, han generado un modelo de negocios denominado “platform economy” (Kenney and Zysman, 2016)  o “platform capitalism” (Srnicek, 2017). En esta lógica diversos desarrolladores generan plataformas que luego son contratadas por otras empresas, facilitando un nexo entre diversos actores a través de un software o aplicación. Esta característica de las plataformas por su capacidad de expandirse e ir anexando diversos servicios, ha puesto en discusión su carácter de monopolio y han sido catalogadas como “winner-takes-all market”.
    Como empresa de software, SoSafe utiliza el modelo de negocios software as a service (SaaS), en dónde los “clientes” que pagan por el servicio son las municipalidades. De esta forma, las municipalidades e instituciones como bomberos, no necesitan invertir en construir una infraestructura de software, sino que SoSafe arrienda un software que consiste en una suerte de Dashboard o portal web (imagen 2), y que permite administrar la comuna a través de un mapa. El precio es por tramo de habitantes y va desde los US$22,000 a US$102,000 por un año de licencia (SoSafe, Convenio Marco). Este sistema facilita a la ciudadanía una app que funciona en celulares de diversas gamas, sin publicidad y sin costo para el usuario. 

    Imagen 2: presentación de la app para smartphones y el dashboard de las municipalidades para gestionar reportes. Imagen por SoSafe.

    El académico Nick Srnicek (2017) define las plataformas como a designed core architecture that governs the interaction possibilities” (p.47), estas posibilidades redirigen las acciones de los usuarios para generar data -y también para evitar que se generen reportes sin sentido, y seguir iterando la plataforma hasta llegar a su versión más estable y más precisa, de acuerdo con su fin de capturar cierta data o tipo de reportes. Esta lógica es coherente con las iteraciones a lo largo de la historia de SoSafe, ya que en un principio fue un botón de pánico, sin data previa y que se retroalimenta de user feeds (Desouza & Bhagwatwar, 2012), de forma que los programadores fueron capaces de ver qué eventos son reportados y constituían una emergencia. Esto permitió modular la aplicación a las categorías de “seguridad” y “barrio” – categoria sugerida por las municipalidades- presentes actualmente.

    No obstante, los efectos de las plataformas en la población han sido poco estudiados, y la literatura asegura que el impacto de las plataformas está diferenciado geográficamente (Richardson, 2018) y, por ende, que se desplieguen de forma uniforme en diferentes sectores de la ciudad es bastante difícil. En esta línea, las municipalidades que han contratado SoSafe poseen diferentes capacidades de gestión, algunas cuentas con una central de seguridad que agrupa varias tecnologías (drones, gran número de cámaras, o enlace directo con carabineros en la central), otras no cuentan con estos recursos o los poseen en menor medida, y también cuentan con diferentes necesidades mediadas por el clima o por eventos particulares que tienen lugar en el territorio. No obstante, el dashboard de SoSafe es standard, así también las categorías de la app son fijas para todos los usuarios, sin importar la ciudad o comuna en la que residan. Incluso, uno de los programadores relata una situación bastante particular al realizar un piloto de prueba de la plataforma en Iquique. Esta ciudad posee la característica de ser Zona Franca, y por ello, el valor de la compra-venta de autos es barata en comparación a otras ciudades del país, lo que provoca que muchos residentes de la zona compren autos, los usen un par de años, y luego los abandonan. Los autos abandonados son una problemática urbana de esta ciudad. Y mediante SoSafe, los usuarios comenzaron a reportar estos autos mediante el pin “vehículo abandonado”, en el mapa de la app era posible ver cómo el mapa estaba saturado por este pin de color morado, y en una cuadra era posible encontrar 4 o 5 reportes de autos diferentes: “Si tú vas a Iquique, vas a ver ahora puros pins de autos abandonados y están ahí (…) ellos [la municipalidad] vieron con esa modalidad un problema real”, comenta. En cambio, en la región metropolitana este pin posee otra connotación y por lo general un vehículo abandonado cae en la categoría de auto sospechoso que podría tener algún antecedente de encargo por robo. En cierta medida, el pin de vehículo abandonado generó un reporte no solucionable en el norte de país, esta problemática podría ser transversal a cualquier categoría de reporte y dependiendo de las condiciones materiales de la comuna. Un municipio que posee más servicios e instituciones enlazadas en su central de seguridad probablemente tenga mejores tiempos de respuesta ante emergencias y una mayor capacidad de solucionar eventos, develando desigualdades ya existentes que ahora se estarían plasmando a través de la digitalización de lo urbano. 

    Por otro lado, las plataformas y los algoritmos que las constituyen no determinan el comportamiento de las personas, pero modelan el entorno de forma que ciertas posibilidades se vuelven reales y visibles (Butcher, 2018). Y como una aplicación de reportes, SoSafe posee una suerte de carácter omnipresente, donde a través de la navegación de reportes es posible “ver” qué está pasando en lugares cercanos o en otras comunas. En esta línea, algunos usuarios entrevistados aseguran que la app les permite mantenerse informados de lo que ocurre en su barrio, sin embargo, esto también los ha llevado a preguntarse si realmente viven en un sector seguro, debido al “Monitoreo mutuo” y el recibir constantes reportes de robos o personas sospechosas. Además, los reportes tienen un periodo de tiempo en el cual son visibles, y después de 24 horas, el reporte desaparece del mapa. En caso de ocurrir una emergencia, el reporte aparecerá en el mapa aún después de que carabineros o seguridad haya concurrido al lugar, lo cual podría tener un carácter inquietante para los vecinos del sector. Así, una usuaria relató que un día recibió una notificación de un robo en la farmacia de la esquina, la cual cerró la cortina metálica. Quién reportó, dio a entender que los asaltantes se encontraban encerrados en la farmacia junto con los clientes. Durante varias horas, los vecinos del sector preguntaban “¿qué pasó?, ¿están bien?”. Hasta que la situación fue aclarada, y en realidad, los asaltantes habían entrado a un OK Market en frente, por lo que en la farmacia decidieron bajar las cortinas para no verse afectados. La pregunta ¿es mi barrio seguro? Reaparece al desconocer cómo usar la app y generar reportes por error que generan notificaciones innecesarias, o también, al no entregar información clara respecto del estado de un reporte y lograr describir de forma acabada qué pasó. Desde las municipalidades, aseguran que  uno de los principales desafíos para un correcto uso de la aplicación es generar un cierre adecuado para el reporte y especificar qué procedimiento se realizó y si un problema fue solucionado, de lo contrario existe una ambigüedad, un efecto recalcitrante que impide conocer en su totalidad qué ocurrió más allá de la pantalla del celular.

    Así también, la app posee un pin denominado “actividad sospechosa”, el cual posee como fin último, reportar un robo y por ello posee el icono de un ladrón. No obstante, este botón de actividad sospechosa ha sido utilizado para reportar varios sucesos que están “fuera de lo ordinario” o que irrumpen con la cotidianeidad del lugar. Lo cierto, es que considerar ciertos hechos como eventos fuera de lo común, refuerza la idea de una “normalidad”, o incluso la idea de un estilo de vida deseado (Larsson, 2016) ya que quien vigila siempre posee una posición privilegiada frente a otros. Por ende, muchos de los blancos de estos reportes han sido vendedores ambulantes, visitas de quienes viven en el sector, inmigrantes y objetos que “No deberían estar en un lugar determinado”. Este tipo de reportes, por lo general terminan en disputas entre los usuarios o generan reportes confusos al alertar a “un hombre con una polera roja y mochila”. A mediados de 2018, SoSafe lanzó una guía comunitaria que busca generar una mejor convivencia en la plataforma, y disuadir de realizar comentarios que puedan incluir algún tipo de discriminación. Así también, estas prácticas de reportes innecesarios o falsos y otros que podrían ser insultos, produjo “el reporte del reporte”, ya que quienes usan la plataforma pueden denunciar un comentario, y esto podría terminar en un bloqueo si es una conducta que persiste. 

    Finalmente, la reflexión en torno a las plataformas, su capacidad de adaptarse rápidamente a cambios y también su capacidad por transformar espacios y alentar el compromiso ciudadano, no termina aquí. Más bien, permite levantar una serie de interrogantes en la medida que el fenómeno de las plataformas cada vez se encuentra más presente en nuestro día a día y probablemente usamos uber, rappi, cornershop, sosafe, waze y otros ejemplos, varias veces a la semana. En primer lugar, se vuelve necesario pensar las implicancias de que la ciudadanía no se relacione de forma directa con carabineros o el municipio, y si realmente estas aplicaciones reconfiguran el compromiso cívico o subrayan el derecho a la ciudad, con el simple hecho de reportar algo que vimos, o al discutir un reporte realizado por un vecino.  Esta discusión, tomará mayor fuerza en la medida que los gobiernos están optando con varias medidas vinculadas al solucionismo tecnologico a traves del uso del big data, la apertura de portales de transparencia con open data, el arriendo de servidores y tecnologías de nube, o el uso de portales web que buscan reducir la burocracia estatal. 

    Por otro lado, SoSafe y los casos nombrados anteriormente, nos harán preguntarnos por el alcance y uso de nuestros datos, ya que, en la mayoría de las plataformas, dashboard o portales, la ciudadanía o “usuarios” son considerados como fuentes de datos que dan forma a lo digital. La pregunta final es por el alcance de nuestros datos y ¿que se hace finalmente con nuestra data? ¿podría ser utilizada para otros fines o ser vendidos a otras plataformas?

     

    Referencias:

    Bucher, T. (2018). If… Then: Algorithmic Power and Politics. Oxford University Press.

    Desouza, K. C., & Bhagwatwar, A. (2012). Citizen Apps to Solve Complex Urban Problems. Journal of Urban Technology, 19(3), 107–136.doi:10.1080/10630732.2012.673056 

    Gabrys, J. (2016). Engaging the idiot in participatory Digital Urbanism, en “Program Earth”. P. 207-240. University of Minnesota Press.

    Kenney, Martin, and John Zysman. 2016. The Rise of the Platform Economy. Issues in Science and Technology 32 (3).

    Larsson, S. (2017). A First Line of Defence? Vigilant surveillance, participatory policing and the reporting of ‘suspicious’ activity. Surveillance & Society, 15(1), 94-107.

    Morozov, E. (2015). La locura del solucionismo tecnológico (Vol. 5010). Katz Editores y Capital Intelectual.

    Richardson, L. (2018). Platforms as urban technology. No. 4 Roundtables, vol. 3.  November 5.

    SoSafe. (s.f). Convenio Marco para municipalidades e instituciones públicas. https://www.sosafeapp.com/en/mercado-publico.html

    Srnicek, N. (2017). Platform capitalism. John Wiley & Sons.

  • ¿Y tu hogar se comporta bien? Notas para reflexionar con los sensores, dobles de datos y mapas de la Red Nacional de Monitoreo (ReNaM)

    Por Matías Valderrama

    Un gran cartel obstruía la entrada de la sala, dejando al lado aberturas de dos metros donde Jed había colocado juntas una foto satélite tomada en las inmediaciones del globo de Guebwiller y la ampliación de un mapa Michelin «Departamentos» de la misma zona. El contraste era extraordinario: la foto satélite sólo mostraba una sopa de verdes más o menos uniformes sembrados de vagas manchas azules, mientras que el mapa desarrollaba una rejilla fascinante de carreteras departamentales, pintorescas, de vistas panorámicas, bosques, lagos y puertos de montaña. Encima de las dos ampliaciones, en letras mayúsculas negras, estaba el título de la exposición: «EL MAPA ES MÁS INTERESANTE QUE EL TERRITORIO».

    Michel Houellebecq, El mapa y el territorio.

    Grandes mapas se han trazado para cada ciudad. Ya sea en la representación de su ordenado esplendor o de su esplendoroso desorden, los mapas hacen ciudad. De ello se desprende que los dispositivos desplegados para confeccionar esos mapas también hacen ciudad. Ciertos espacios, barrios y experiencias urbanas, por sobre otras, se vuelven más sensibles, visibles e interesantes por medio de ellos. Al respecto, las tecnologías digitales han expandido innegablemente las maneras de mapear la vida social, reconfigurando nuestros modos de imaginar, representar y materializar la ciudad. Con múltiples satélites –y un montón de basura espacial- acompañando al planeta, hemos aumentado la supuesta “fidelidad” para capturar ese territorio esquivo. Las imágenes satelitales son ahora casi omnipresentes en toda representación digital del territorio, por ejemplo, para graficar el avance de algún temible huracán, marcar los restaurantes cercanos con las mejores pizzas, o estimar la cantidad de asistentes a una marcha. La geolocalización ha incrementado la rastreabilidad de los eventos sociales. De ahí que se vuelve relevante interrogarse por las capacidades políticas que activan los múltiples dispositivos digitales y qué tipos de mapas se manufacturan por medio de ellos. Qué registros de localización y capas de información se visibilizan y a la vez qué otras son ocultadas. En definitiva, qué ciudades emergen en los mapas y qué definiciones de lo interesante –o importante- de tales ciudades son promovidas en el proceso.

    Dentro de los nuevos modos digitales de hacer inteligible el territorio se inserta el uso de sensores ambientales para discretizar y conocer el espacio urbano. Los sensores de variables como la temperatura o la contaminación atmosférica dejaron de ser instrumentos costosos y gigantes controlados por un puñado de instituciones formales, pasando a introducirse en múltiples dispositivos móviles y de bajo costo. Dentro de este fenómeno, se sitúa la Red Nacional de Monitoreo o ReNaM. Esta es una iniciativa del Ministerio de Vivienda y Urbanismo (MINVU) de Chile iniciada en 2014 y calificada como inédita en el mundo. Por medio de la instalación de un conjunto de sensores inteligentes en ya 300 viviendas de diferentes regiones del país, ReNaM busca cuantificar el denominado “comportamiento ambiental” de los hogares en condiciones reales y durante todo su ciclo de vida. Estos sensores permiten conocer las variaciones de ruido, contaminación, temperatura, entre otras, de las viviendas a lo largo del día, permitiendo conocer en términos agregados qué tipos de viviendas y ciudades presentan un “mejor” o más “optimo” comportamiento ambiental para la vida de sus habitantes. Con este nuevo conocimiento de la vida social de las viviendas a lo largo y ancho del territorio, se espera potenciar una toma de decisión guiada por datos en tiempo real en el diseño de nuevas políticas y regulaciones en materia de construcción y desarrollo sustentable.

    El caso de ReNaM abre importantes interrogantes que deben comenzar a ser atendidas: ¿Qué modos de vigilancia y gobierno a distancia se posibilitan con la instalación de estos sensores? ¿Qué políticas se inscriben en el diseño y desarrollo de esta red? ¿Qué expectativas y formas de cálculo se generan en el procesamiento de sus datos? ¿Qué modificaciones provoca la introducción de estos artefactos en el hogar en las prácticas y hábitos de sus habitantes? Hemos seguido el caso desde hace ya más de un año y han aparecido interesantes hallazgos respecto a las diferentes visiones de cómo imaginar y materializar ReNaM, desde los encargados del proyecto hasta los usuarios y sus experiencias mundanas con los sensores y datos. En este breve artículo quiero revisar brevemente los dispositivos y mapas que se construyen con ellos. Argumentaré que la cuantificación digital de ambientes de las casas chilenas abre múltiples dobles de datos de las casas y sus ciudades que complejizan la definición de una singular casa o ciudad.

    El principal dispositivo empleado por ReNaM es la Estación Meteorológica Inteligente de la empresa francesa Netatmo, adquirida hace algunos años por la empresa italiana Bticino Legrand. Netatmo diseña y desarrolla diferentes dispositivos electrónicos interconectados para generar hogares más inteligentes, esto sería, más seguros, saludables y confortables. En particular, la Estación Meteorológica Inteligente consta de dos módulos de aluminio anodizado, uno para el interior y el otro para el exterior de la casa. Pueden medir la temperatura, humedad, calidad del aire, ruido y la presión barométrica. Gracias a los sensores incorporados en ambos módulos, la Estación cuantifica y registra en una frecuencia de cinco minutos las cualidades de las atmosferas del interior y exterior del hogar, transmitiendo los datos recopilado a través de la señal de Wifi del hogar. La Estación Meteorológica Inteligente Netatmo, sería caracterizada como un dispositivo altamente orientado al usuario humano, con diferentes funciones interactivas para generar entornos más saludables y eficientes. Debido a su bajo precio, estar “hecho para uso doméstico”, su capacidad para medir varias variables ambientales a la vez y transmitir los datos de manera remota, convertían a este dispositivo como “la tecnología ideal” para ReNaM según varios entrevistados ligados al proyecto. Pero junto con estas justificaciones, el dispositivo se hacía “ideal” para esta cartografía estatal porque resultaría ser de baja invasión de los hogares.  Cómo pudimos constatar en nuestras visitas a usuarios de la Región Metropolitana y de Valparaíso, el dispositivo es de “bajo perfil” o pasa “piola”, transmite datos de manera silenciosa detrás de cuadros, fotografías o recuerdos familiares. Siguiendo los estudios de Foucault sobre la gubernamentalidad, gracias a estos sensores se comienza a hacer inteligible y medible el “comportamiento” o “conducta” de la vivienda que previo al proyecto no existía -sea cual sea lo que incluya ese rendimiento, desde ruidos de niños, ladridos de perros, desconexiones para hacer el aseo, etc. Junto con ello, los sensores se van fundiendo y mimetizando con cada hogar, abriendo instancias para conducir tal conducta, ya sea modificando las políticas del Estado, así como también las prácticas de sus habitantes.

    Pero al desplegar este mismo dispositivo por las diferentes viviendas del territorio, se irían duplicando sus registros para diferentes mapas de libre acceso en internet. Por un lado, tenemos el WeatherMap de NetAtmo, que sería la red de estaciones meteorológicas más grande del mundo según NetAtmo. Por otro lado, tenemos el mapa de ReNaM en su sección “Reportes”. El mapa de NetAtmo funciona en base a Mapbox y Open Street Map, proyecto colaborativo para crear mapas editables y libres con licencia abierta. Mientras que el de ReNaM aparece basado en Google Maps, servidor de aplicaciones de mapas online de carácter comercial que pertenece a Alphabet Inc. Esto ya nos habla de los enredos político-económicos involucrados en como representar digitalmente la red de sensores. Al igual que las guías de viajes Michelin de Houellebecq, lo “interesante” de estos mapas no sería el territorio propiamente tal, sino los llamativos marcadores que indican el rendimiento de cada sensor geolocalizado. Mientras que los marcadores del mapa de ReNaM presentan un único verde claro y sólo se diferencian respecto a si la estación corresponde a una casa o un departamento, en el WeatherMap aparecen marcadores de diferentes colores que corresponden a la colorida barra de temperatura de manera estándar para todo el globo.

    WeatherMap de NetAtmo
    Mapa de la sección Reportes de ReNaM

    Centrándome en la ciudad de Santiago, lo primero que me llamó la atención al comparar ambos mapas fue la distribución socio-económica de las estaciones meteorológicas de NetAtmo, concentradas en el sector nororiente de la capital. La Estación Meteorológica es un dispositivo comprable por Amazon de forma individual a un costo bajo en comparación a otros dispositivos más sofisticados, pero claramente no sería ni de cerca una prioridad o anhelo para familias de menores recursos, por lo que es sensato esperar que los usuarios “oficiales” se concentren en los barrios más acomodados de la capital que tienen el dinero como para gastar en un gadget como este. Ahora bien, el WeatherMap dista mucho de lo que aparece en la web de ReNaM en donde se observan muchos más monitores y más distribuidos por la ciudad, aun cuando había algunos que ya no recopilaban datos pero que seguían marcados en el mapa.

    Buscando en los mapas las casas que hemos visitado para conocer las experiencias de sus usuarios, se pueden encontrar diferencias de 1 o 2 grados en la temperatura que presentan entre la plataforma ReNaM y el WeatherMap. Asimismo, se encuentran diferencias temporales según la actualización de cada medición. Por ejemplo, comparando un mismo monitor, en el WeatherMap se muestran datos de hace “menos de un minuto”, mientras que en el mapa de ReNaM es más variable presentando un registro de hace 12 minutos. Algunas casas en el WeatherMap no aparecían, mientras que en ReNaM eran visibles, pero sin datos. Por ejemplo, una casa en Maipú no aparecía en WeatherMap, pero al apretar la opción “Sin filtrar” apareció. Esto nos indica que estos “dobles de datos” presentan diferencias -quizás mínimas- pero relevantes de notar a la hora de justificar la “fidelidad” o “utilidad” de todo el mapa.

    Siendo sensible a estas diferencias, aparece un problema preocupante. Mientras que en el mapa de ReNaM los marcadores de cada sensor aparecen dentro de un amplio radio para evitar la localización de la casa, en el WeatherMap aparece el marcador en la ubicación exacta del monitor y su respectiva vivienda. De esta manera, nos encontramos con dispares modos de tratar la geolocalización de las casas y la privacidad de sus datos, haciéndose posible para cualquier persona mirar las temperaturas y ruido de las casas en la WeatherMap. Esta información puede servir para fines perniciosos o incluso para actos delictivos (como varios actores entrevistados señalaban, puede ser posible identificar cuándo no hay nadie en la vivienda monitoreando los registros del sensor). ¿Qué sentido tiene, entonces, resguardar la ubicación de dispositivos en el mapa de ReNaM si el propietario (de Francia) de tales dispositivos no lo hace? ¿Cuál es la utilidad para NetAtmo hacer público tal ubicación? ¿Apuntar a ser una plataforma de datos abiertos cool? Esto nos habla de los desajustes que se generan en la adopción de ciertas innovaciones digitales foráneas con configuraciones y formatos que limitan o contradicen el espíritu de la política. Uno podría contraargumentar que ReNaM no se puede meter con la decisión libre e individual de los usuarios en hacer pública la información de sus monitores en el WeatherMap pero eso cae en un enfoque neoliberal en que la privacidad es responsabilidad del individuo. En este sentido no solo es importante las implicancias éticas del tratamiento de los datos en términos de privacidad para las personas sino también de las relaciones político económicas entre gobiernos y empresas privadas y cómo sitúan a los usuarios como productores pasivos de datos.

    Todas estas diferencias entre los dos mapas de ReNaM y NetAtmo, en términos de las relaciones Norte-Sur de su propiedad, los enredos comerciales entre plataformas (Mapbox o Google Maps), la distribución espacial (sobre e infra visibilización de ciertos barrios) y temporal o en cómo representan el “comportamiento ambiental” de las viviendas o protegen la privacidad de sus habitantes, obligan a problematizar y abrir nuevas interrogantes sobre los múltiples dobles de datos y mapas que se producen al sensorificar nuestras casas y ciudades. ¿Cómo definir el valor de cada doble de dato? ¿Qué mapa sería más interesante, fiel o útil para los fines de proyectos de este tipo? ¿Cómo entender la idea de una tecnología “ideal” para un proyecto de cuantificación digital de algo tan privado y cotidiano como tu hogar? ¿Qué se incluye y excluye dentro de esa conducta ambiental de la vivienda? ¿De qué otras maneras se podría hacer inteligible la vida doméstica que posibiliten modos de participación activa de las personas, antes que intentar la menor invasión e interacción con ellas? Se vuelve relevante abordar estas y otras inquietudes, que requieren la inclusión de otras voces, experticias y sensibilidades a la hora de desplegar una red de sensores por el territorio.

     

  • Nota presentación de Alfonso Otaegui en seminario Sociedad, diseño y tecnología

    El jueves 16 de mayo de 2019 a las 17:00 en la Sala de Consejo de Decanato del campus Lo Contador UC, se realizó la segunda versión del seminario SDT de este año académico y la séptima del ciclo de seminarios. En esta sesión, contamos con la presencia de Alfonso Otaegui, doctor en Antropología en la EHESS de París con postdoctorados en la University of California, Berkeley (Fyssen fellow) y Philipps-Universität Marburg, Alemania (Humboldt fellow). Actualmente se desempeña como investigador postdoctoral del CIIR (UC) y además forma parte del proyecto etnográfico multisituado Anthropology of Smartphones and Smart Ageing” (ASSA) de University College London, dirigido por Daniel Miller. El comentario de su presentación, estuvo a cargo de Sebastian Lehuede, PhD Researcher, Department of Media & Communications, London School of Economics

     

    El proyecto cuenta con un equipo de diez antropólogos que realizan etnografías simultáneas de 16 meses en un total 10 países, entre los cuales se incluye Chile. El objetivo es realizar un análisis comparativo del impacto del smartphone en la mediana edad a nivel global y considerar las implicaciones para el uso de aplicaciones móviles en saludo (mHealth). Luego de su presentación, abrió la discusión Sebastián Lehuedéperiodista de la Universidad Católica que cursa actualmente el doctorado en “Datos, Redes y Sociedad” en el Departamento de Medios y Comunicaciones de la London School of Economics. Su área de investigación se centra en la dimensión política de los datos, para la cual combina estudios de ciencia y tecnología (STS) y teorías críticas.

     

    Alfonso presentó hallazgos de su trabajo de campo en Santiago, titulado “adultos mayores y el smartphone: una inminente migración digital”. Esta problemática se inserta desde una valoración contemporánea a la cultura de la juventud, en la cual se le entrega un estatus al “mantenerse joven”.  Para Alfonso, el desafío de realizar una etnografía sobre smartphones y envejecimiento implica la necesidad de una etnografía offline para comprender el uso online y mundano de esta tecnología. La inmersión en el trabajo de campo llevó a Otaegui a realizar voluntariado en cursos de alfabetización digital, los cuales forman parte de una política pública.  En el trabajo de campo, los investigadores de ASSA se encontraron con una gran diversidad en experiencias de adopción de tecnologías, en definitiva “No hay una vejez, hay vejeces” y diversos factores afectan esta experiencia (como el conocer la simbología de otros dispositivos como el símbolo play, etc.) y diferentes motivaciones para adoptarla.

    Si bien, existe una diversidad en cómo llegan al teléfono y esto puede influir en como adoptan los smartphones, en el tiempo se observan ciertos patrones de dificultades, como miedo a romper el teléfono. Esta inseguridad incide en la forma en que tocan y se aproximan al teléfono, aproximación que es diferente en cómo se manipulan otros objetos cotidianos como un auto, donde todas las alternativas posibles se encuentran en el panel de control y a la vista, mientras que en la interfaz de un dispositivo móvil existe una lógica de navegar a través de diversas capas.

    En su relato, Alfonso evidencia estas sensaciones a las cuales ha denominado “ansiedades”, donde la información y su uso se convierte en exceso y no se puede completar la cadena operativa. Existe una sensación de perderse en esta navegación. Y desde la cotidianeidad de abrir una imagen -que posee un icono específico para desencadenar la acción- estos migrantes digitales se pierden en la navegación, en el sentido que se encuentran con 5 iconos más que desconocen.  En este momento surgen las ansiedades, y los demás iconos en la pantalla terminan siendo una diversión, en términos de desviarse del objetivo. Además de esta ansiedad, se presentan dificultades con la interfaz táctil, ya que hay dos inputs distintos: touch y long press. A pesar de que manipular un dispositivo con sensibilidad podría incluir cierto nivel de dificultad para una mano que tiembla, existe la duda de poder desencadenar la acción que se desea. Otras dificultades a nivel interpersonal según quienes asisten al curso, es que las personas que por lo general les entregan estos dispositivos, los jóvenes, no tienen paciencia para enseñarles, y en general configuran el dispositivo, pero no enseñan. Estas frustraciones producirían un viejismo introyectado, y el pensar que la tecnología no es para para migrantes digitales, sino para nativos. La sensación de quedarse atrás es recurrente entre los interlocutores.  Otros imaginarios también están en juego, en particular, la idea de que avanzamos hacia una era sin papel, donde se perdería lo concreto. En definitiva, hay una línea muy delgada entre la frustración y el empoderamiento.

    Por otro lado, la segunda parte del trabajo de campo de Otaegui, tiene lugar en un centro oncológico del sistema público en un sector de bajos recursos. Este centro, posee enfermeras de enlace, quien sirven de mediador entre el paciente y el sistema médico, y el paciente y su tratamiento. En este contexto, ¿podría WhatsApp ser una aplicación de salud? La respuesta es ambivalente, ya que depende de cómo las personas usen la aplicación para la salud. Es lo que Katherine Pype (2017) llama smartness from below, y que implica el reconocimiento de la creatividad de los usuarios. Una de las primeras ventajas con WhatsApp es que es una aplicación masiva y es la aplicación móvil más usada por adultos mayores.

    En el centro oncológico, cuatro enfermeras de enlace gestionan los tratamientos de doscientos pacientes, y desde hace dos años se utiliza WhatsApp como medio de comunicación y gestión. La comunicación a través de esta aplicación ayuda a que pacientes que están pasando por una situación de enfermedad no se trasladen innecesariamente a un centro de salud. También facilita la ayuda para lidiar con los efectos secundarios del tratamiento o avisar de forma rápida cuándo hay una hora disponible para la especialidad que necesitan. Está gestión digital, también implica una vuelta a lo análogo, en el sentido que las enfermeras registran en libros los efectos secundarios de los medicamentos, y también las diversas clínicas y hospitales en los cuales se realizan procedimientos específicos que podrían necesitar los pacientes.

    En conclusión, la tarea de los antropólogos para realizar una etnografía de mHealth o aplicaciones de salud con adultos mayores, es generar un relato desde una perspectiva inside del usuario, desde un punto de vista holístico que implica frustraciones cotidianas del uso y una serie de eventualidades e interrupciones que también implican momentos de éxito.

    Comentario de Sebastian Lehuede.

    Primero que todo, muchas gracias Alfonso por tu presentación. No soy el primero en mencionar lo valiosos que pueden ser los aportes de investigaciones de carácter antropológico como el proyecto Antropología de Smartphones y Envejecimiento Artificial, ASSA por sus iniciales en inglés, en tiempos de big data.

    Y es que, a pesar de la contundente evidencia en contra, seguimos reproduciendo el mito de que podemos entender a cabalidad el rol de la tecnología y los medios en la sociedad sin observar su uso cotidiano. En cambio, las observaciones que hemos escuchado hoy nos demuestran que aún queda trabajo pendiente para comprender con mayor detalle qué son los ‘smartphones’, así como también qué hay detrás de la ‘inteligencia’ que se le atribuye hoy a este tipo de máquinas.

    En mi breve comentario, intentaré contextualizar el trabajo de Alfonso a la luz del debate en torno a los medios digitales y los datos que se está sosteniendo en el campo de las comunicaciones. Si bien la imagen que es principalmente pesimista, a continuación intentaré mostrar un camino de salida al poner en valor el importante rol que puede tener la alfabetización digital en el contexto actual. Para ello utilizaré algunas de las ideas de Paulo Freire, quien impregnó en su libro Pedagogía del oprimido algunos de los aprendizajes de su trabajo de alfabetización -no digital, por cierto, sino que analógica- en Latinoamérica.

    Mis comentarios parten de la base de que la investigación de Alfonso aún está en curso, por lo que, a la luz de los objetivos y la metodología del proyecto en el cual participa, aquí opto por describir cuáles podrían ser algunas de sus eventuales contribuciones.

    Las referencias que utilizo no son casualidad. Como Alfonso, me encuentro en la fase final del trabajo de campo de mi tesis doctoral. Sin embargo, ni provengo de la antropología sino que de las comunicaciones. En gran parte, por lo tanto, mi respuesta a la presentación de Alfonso refiere a mis propias inquietudes, sobre todo ahora que me encuentro finalizando mi trabajo empírico y comienzo a poner en diálogo la teoría con el campo.

     

    Cambio en la narrativa

    Para partir, me gustaría entregar algo de contexto histórico. Porque pareciera ser que nos encontramos en un momento crucial en relación a las tecnologías digitales y los datos.

    Todo parece indicar que el tono optimista de empoderamiento, eficiencia y conectividad que marcó la introducción de internet se encuentra en crisis. El año pasado falleció John Perry Barlow, un activista de los protocolos de la web para quien internet significaba “un mundo en el que todos pueden entrar sin privilegios o prejuicios en base a la raza, poder económico o fuerza militar” (1996, par. 7), algo que hoy vemos como, al menos, improbable.

    En el caso de Chile, la agenda digital elaborada en 1999 durante el gobierno de Eduardo Frei Ruiz-Tagle aseguraba que la conectividad, comillas, “encierra promesas de prosperidad material, equidad social, revitalización cultural y desarrollo democrático difícilmente imaginables unos pocos años atrás” (Comisión Presidencial, 1999).

    Veinte años después, el tono parece ser otro. Según Tim Berners-Lee, uno de los creadores de la web, “la humanidad conectada por las tecnologías web está funcionando como una distopía. Tenemos abuso online, prejuicio, sesgo, polarización, noticias falsas. Hay muchas maneras en las que la web está rota” (Sample, 2018, par. 5).  En materia de políticas públicas, la Agenda Digital propuesta en 2015 durante el gobierno de Michelle Bachelet tiene como primera medida el resguardo de los derechos de las personas a través de nuevas normativas como la protección de datos personales -¡y que aún no tenemos! (Comité de ministros, 2015).

    ¿Qué pasó, entre medio? Varias cosas. El auge y la caída de la Primavera Árabe, las revelaciones de Edward Snowden, el uso de Twitter por parte de Donald Trump, el escándalo de Cambridge Analytica y el rol de Facebook en la violencia en Myanmar, pueden mencionarse como antecedentes. Además, muchos de nosotros hemos conocido historias de víctimas de hackeo, bullying, misoginia y otros abusos que se dan en espacios digitales.

    El imaginario pesimista de internet se ha infiltrado en los medios también, quienes publican periódicamente noticias de muñecos que vigilan o asistentes de voz que registran nuestras conversaciones cotidianas. La Unión Europea adopta regulaciones agresivas y la serie de Netflix Black Mirror ha masificado una distopía tecnológica en la que parecemos perder cada vez más humanidad frente a al poder de los dispositivos inteligentes y las redes sociales.

    Ecos en la academia

    Y ahora, de vuelta a los que nos convoca, ¿qué ha pasado en la academia? Al menos el campo de las comunicaciones ha hecho eco de este cambio de visión. Si bien ha existido una crítica desde los años noventa a las lógicas de las tecnologías digitales, dos ejemplos de publicaciones recientes intentan destacar la profunda transformación que vivimos y sus impactos negativos en la sociedad. Ambos trabajos se aproximan al problema desde la economía política, lo cual también podría indicar un cambio en el campo de las comunicaciones.

    En su libro La era del capitalismo de vigilancia publicado este año, Shoshana Zuboff (2019) argumenta que las transformaciones que hemos vivido en las últimas décadas nos permiten hablar de una nueva civilización informacional. La pregunta que aborda en su libro es si acaso esta nueva civilización será un lugar al que todos podamos llamar ‘hogar’. Cierta nostalgia recorre su narrativa ya que al parecer hemos perdido un hogar o una forma de vivir en la que nuestro día a día -el prepararnos un café o establecer relaciones románticas-, aún no eran utilizadas por empresas para obtener ganancias comerciales. Para ella, el sueño digital original se ha transformado en un negocio que llama capitalismo de la vigilancia. La descripción se vuelve más preocupante en la medida en que Zuboff detalla las dinámicas de este negocio, que, a través de la predicción y pequeños cambios en nuestro ambiente, termina manipulando nuestra conducta hacia fines que no son necesariamente compartimos. En sus propias palabras, “la conexión digital es ahora un medio para los fines comerciales de otras personas” (2019, par. 20).

    De manera similar, en un artículo publicado el año pasado, Nick Couldry y Ulises Mejías (2018) utilizan el concepto de colonialismo de datos para referirse a la situación actual. Según dicen, esta dinámica combina “las prácticas predatorias extractivas del colonialismo histórico con los métodos de cuantificación abstracta a través de la computación” (2018, p. 337). Tal como Zuboff, argumentan que estamos frente a una nueva etapa del capitalismo, el cual lleva a cabo prácticas de apropiación y desposesión a través de la extracción de datos. Sin embargo, también van más allá, y aseguran que, si bien en los años noventa y dos mil se hablaba de formas de explotación laboral facilitada por una ‘arquitectura participativa’, esta vez Couldry y Mejías afirman que es nuestra vida, y no sólo nuestro trabajo, la que se ha transformado en materia prima para ser explotada por empresas.

    Podría mencionar también el trabajo de Catherine O’Neil (2016), quien utiliza la noción de armas de destrucción matemática, o el de James Bridle (2018), para quien estamos entrando en una nueva Edad Oscura. Sin embargo, lo que quiero ilustrar con los dos ejemplos que mencioné es el hecho de que hoy algunos autores y autoras estén describiendo esta supuesta cuarta revolución industrial (World Economic Forum, 2016), posterior a la digital y en la que los datos y algoritmos se vuelven fundamentales, como una nueva etapa del capitalismo, caracterizada por un tipo de relación instrumental y de manipulación desde las empresas tecnológicas como Facebook y Google, por un lado, hacia los usuarios, por otro.

    Mi objetivo al mencionar estos ejemplos no es incomodar a los que estamos aquí y que somos usuarios de las tecnologías digitales. Lo que en realidad busco hacer es, a la luz de este creciente pesimismo, destacar el aporte que pueden hacer estudios como los de ASSA, y específicamente lo que acaba de presentar Alfonso.

    Aportes de la antropología y pedagogía

    Una de las preguntas constantes de quienes estudian audiencias es qué noción de usuario se moviliza de forma implícita o explícita en ciertos relatos sobre el rol de la tecnología en la sociedad. Una de las principales ventajas de estudios como ASSA es la capacidad de profundizar en torno al rol y agencia de los usuarios en este contexto. El concepto de smartness from below desarrollado por Katrina Pype (2016) y que inspira a Alfonso a elaborar un código de buenas prácticas para el uso de Whatsapp en instituciones de salud, es un buen ejemplo. Al contradecir la idea de que la ‘inteligencia’ es una capacidad intrínseca de ciertas tecnologías, la idea de ‘inteligencia desde abajo’ implica que no podemos completar la historia del rol de los datos y los algoritmos sin observar sus múltiples interacciones con los usuarios. Al dar espacio a la creatividad, se deja de considerar la ‘inteligencia’ como algo dado y, en cambio, lo transforma en un proyecto incompleto cuya trayectoria es multidireccional e imposible definir a priori. De esta forma, es posible observar prácticas y microprácticas que señalan posibles caminos de salida a algunos de los excesos de la dataficación.

    En segundo lugar, una importante contribución que podría realizar un trabajo como el de Alfonso tiene que ver con su grupo social de estudio -los así denominados ‘migrantes digitales’- y el rol de la alfabetización digital.

    La descripción que he hecho del capitalismo de vigilancia o colonialismo de datos asemeja a lo que hace casi sesenta años Paulo Freire (2005/1970) denominaba deshumanización, la cual, a través de distintos mecanismos, implica la anulación de la voluntad de las personas. Tal como señaló hace cerca de sesenta años, gran parte de esta deshumanización consiste en calificar a ciertos grupos como ‘ignorantes’ por su supuesta falta de conocimiento, haciéndolos dependientes de otros grupos que poseerían la capacidad de solucionar sus problemas. Por lo mismo, y utilizando el lenguaje de Freire, son las y los oprimidos, y ningún otro grupo, los llamados a liderar su propia liberación. Tal como él dice, y aquí cito, “La libertad es adquirida por conquista, no como regalo” (2005, p. 47).

    Las así llamadas ‘noticias falsas’ son un buen ejemplo de lo anterior. Los adultos mayores son hoy representados como uno de los grupos más vulnerables a este fenómeno (e.g. Salas, 2019). Algunas alternativas para enfrentar el problema son la regulación del contenido y una mayor atención a las responsabilidades de las empresas tecnológicas. Sin embargo, Freire nos indica que ninguna solución puede ignorar a uno de los principales grupos afectados por estas prácticas. En este escenario, esta solución se alcanzaría no sólo transmitiendo un listado de criterios que permita a los adultos mayores identificar noticias falsas. Al contrario, significaría reflexionar de forma crítica cómo pueden los adultos mayores contribuir a impulsar un cambio más profundo, tomando en consideración los distintos elementos políticos, económicos y técnicos que hacen posible el fenómeno en primer lugar.

    La fuerza de Freire hoy radica en entender la pedagogía como un mecanismo clave para atacar el determinismo tecnológico y imaginar que las cosas podrían ser de otra manera. Algo semejante intuyen Couldry y Mejías cuando mencionan el trabajo del sociólogo peruano Aníbal Quijano y su idea de descolonización epistemológica como un posible camino de salida al colonialismo de datos.

    Gracias al poder de cambio de la pedagogía, la ‘migración digital’ se puede entender más allá de la clásica definición según la cual un grupo adquiere nuevas destrezas para manejar la tecnología. En complemento a esto, migrar hacia lo digital pasa a significar también abrir la tecnología a cambios ante la llegada de estos nuevos habitantes.

    Conclusión

    En resumen, durante mi exposición intenté explicar que hoy vivimos tiempos cruciales dada la relevancia que ha adquirido lo que algunos llaman ‘dataficación’. Algunos autores han comenzado a explorar el surgimiento de un nuevo tipo de relaciones caracterizadas por la anulación de la voluntad, apropiación y manipulación de la vida de las personas a través de la recolección de datos y predicciones algorítmicas. Ante este escenario, he recurrido a algunos puntos expresados por Freire para iluminar las oportunidades de iniciativas de alfabetización digital, como la de la investigación de Alfonso, las cuales pueden permitir avanzar hacia la re-humanización y cambio de rumbo de la transformación digital.

    Sin embargo, en estas materias es Alfonso el mejor llamado a contarnos si la forma como he descrito el contexto actual tiene alguna relación con lo que ha visto en su trabajo de campo. E imagino que habrán discrepancias. Tal como me comentó hace poco él mismo, la sensibilidad antropológica tiende a ser escéptica de la idea de que las tecnologías introducen cambios profundos. En vez de destacar la novedad, la antropología prefiere observar lo que permanece, exponiendo cómo los mismos roles sociales son llevados a cabos a través de distintos medios. En cierta forma, el lenguaje de Zuboff, Couldry y Mejías justamente ponen en relieve lo que ellos identifican como nuevo y profundamente transformador de la forma como los datos y los algoritmos están siendo utilizados hoy.

    Al mismo tiempo, imagino que una de las principales dificultades de la alfabetización digital debe ser la de lidiar con las múltiples expectativas de las personas, especialmente considerando la ansiedad y el entusiasmo que, según constata Alfonso, tienen por aprender a utilizar funciones del teléfono como la cámara de fotos o el mismo Whatsapp. En cierta forma, Freire mira la alfabetización no desde una perspectiva funcionalista sino que social, lo cual, imagino, puede generar inevitables tensiones entre fines pragmáticos y políticos.

    Muchas gracias

     

    Bibliografía

    Barlow, J. P. (1996). A Declaration of the Independence of Cyberspace. Recuperado el 18 de mayo, 2019, de https://www.eff.org/cyberspace-independence

    Bridle, J. (2018). New Dark Age: Technology and the End of the Future. Londres, Inglaterra: Verso.

    Comisión Presidencial TIC. (1999). Chile: Hacia la sociedad de la información. Recuperado de http://www.agendadigital.gob.cl/files/otros/Chile_Sociedad_de_la_Informacion_1999.pdf

    Comité de Ministros. (2015). Agenda Digital 2020: Chile Digital para Tod@s. Recuperado de http://www.agendadigital.gob.cl/files/Agenda Digital Gobierno de Chile – Capitulo 1 – Noviembre 2015.pdf

    Couldry, N., & Mejias, U. (2018). Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject. Television & New Media, 20(4), 336–349.

    Freire, P. (2005). Pedagogy of the Oppressed. (M. B. Ramos, Trans.) (30th Anniv). Nueva York, Estados Unidos: Continuum. (Trabajo original publicado en 1970)

    O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Nueva York, Estados Unidos: Crown.

    Pype, K. (2017). Smartness from Below: Variations on Technology and Creativity in Contemporary Kinshasa. In C. C. Mavhunga (Ed.), What Do Science, Technology, and Innovation Mean from Africa (pp. 97–116). Cambridge, Massachusetts, United States: MIT Press.

    Salas, J. (2019, 9 de enero). ¿Engañan las noticias falsas sobre todo a los más mayores? El País. Recogido de https://elpais.com/tecnologia/2019/01/09/actualidad/1547029983_955487.html

    World Economic Forum. (2016). The Fourth Industrial Revolution: what it means, how to respond. Recogido el 18 de mayo, 2019, de https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/

    Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Nueva York, Estados Unidos: Public Aff