La Inteligencia Artificial (IA) y la predicción algorítmica emergen como uno de los principales imaginarios de prosperidad para las sociedades del futuro. De la mano con los masivos procesos de dataficación (Schäfer & van Es, 2017; van Dijck, 2014), existe un creciente interés por comprender las implicancias futuras que tendrá el avance de la IA sobre los modos en que trabajamos, vivimos y tomamos decisiones (Elliott, 2019; Schwab, 2017). Si bien no hay una comprensión unívoca sobre qué es la IA, hay consenso en definirla como sistemas computacionales capacitados para ejecutar tareas que se considerarían inteligentes si fueran realizadas por humanos (MacKenzie 2017; Mattamala, 2019). En la actualidad, el desarrollo de la IA se encuentra asociado a tres capacidades principales: por un lado, se destaca su capacidad para procesar y clasificar grandes volúmenes de datos (Big Data) e identificar diferentes patrones (sociales, visuales, lenguaje, etc.) permitiendo optimizar procesos y guiar la toma de decisiones; por otro lado, ha llamado la atención su capacidad para automatizar tareas complejas y procesos productivos que hasta ahora permanecían como propias del trabajo humano. Pero, sin lugar a duda, la mayor promesa de la IA es la posibilidad de estimar y predecir futuros comportamientos, preferencias y tendencias. Gracias a la proliferación de máquinas o algoritmos predictivos, se cree posible disminuir los riesgos y adoptar medidas de anticipación en diferentes dominios de la sociedad (Crawford & Joler, 2018; MacKenzie 2017; O’Neil, 2017; Rouvroy & Berns, 2013).

Dentro de las múltiples áreas de aplicación de la IA, este proyecto se concentra en investigar tres ámbitos de gran relevancia. En primer lugar, y quizás el ámbito donde más se ha problematizado la implementación de la IA, es en el mundo del trabajo. En los últimos años se han suscitado diversos debates en torno a cómo la automatización y la IA afectan el futuro del trabajo (Schwab, 2017). Se argumenta que, gracias a la aplicación de la robótica, el Big Data y el machine learning, será posible delegar a máquinas una serie de labores definidas como no rutinarias, mejorando las decisiones y la productividad de diferentes áreas de ocupación1. La IA hace reflotar la idea de un futuro ‘post-trabajo’ (Rifkin, 1995), que para algunos producirá una era de prosperidad económica, mientras otros temen escenarios de creciente reemplazo de humanos por máquinas, una desvalorización del juicio humano y una precarización laboral (Sadin, 2018;Schwab, 2017).

El segundo ámbito se vincula al desarrollo de la IA y predicción algorítmica para la vigilancia. Diferentes sistemas IA se están testeando e implementando en este ámbito (Degli Esposti, 2014; van Dijck, 2014; Zuboff, 2019), y van desde cámaras con reconocimiento facial que analizan microexpresiones, pasando por sistemas computacionales basados en redes neuronales para la detección de objetos en escenas de crímenes (Saikia et al. 2017), hasta el desarrollo de programas predictivos del delito que estiman la probabilidad de qué personas y en qué lugares se cometerán crímenes (Baraniuk, 2019; Van ‘t Wout et al. 2019).

Finalmente, otro ámbito que se vería fuertemente impactado por la creciente penetración de la robótica y sistemas automatizados sería el de la movilidad urbana para la gestión eficiente y responsiva de personas y procesos urbanos. Por medio de proyectos de autos autónomos, de  sensorización, visualización y predicción de diferentes parámetros urbanos, el futuro de las ciudades sería más inteligente (Batty, 2018; Claudel & Ratti, 2015).

Frente a estos futuros que abre la IA, diferentes gobiernos, empresas y organizaciones internacionales están desarrollando planes y estrategias para afrontar los desafíos futuros de la automatización y la IA. Al igual que otras naciones del mundo (Japón, China, Francia, UK, USA, Canada, Australia, etc.), Chile no ha estado ajeno a esta preocupación. Considerando que las soluciones asociadas a la IA serían en el futuro tan ubicuas como lo es hoy internet, el Senado de Chile, bajo la Comisión Desafíos del Futuro (2019), elaboró una hoja de ruta para anticipar y gobernar la incorporación de la IA y la automatización
algorítmica. Por su parte, recientemente el Ministerio de Ciencia ha creado un comité asesor para la elaboración de una Política Nacional de Inteligencia Artificial. Por otra parte, en el mundo privado han surgido diversas iniciativas y emprendimientos basados en el uso IA, ofreciendo futuros más eficientes y
automatizados en variadas áreas de aplicación. Ahora bien, resulta central analizar críticamente lo que denominaremos como ‘regímenes de futuro’ de la IA, esto es, el conjunto de diseños, imaginarios y políticas movilizadas para anticipar y promover ciertos escenarios de futuros por
sobre otros.

El estudio posee una orientación cualitativa de tipo etnográfico, empeñada en una comprensión inductiva y procesual de los diseños, imaginarios y políticas involucradas en la generación de futuros tecnológicos ligados a la IA y la predicción algorítmica. Esto permite una descripción densa de los contextos, emociones, principios morales y prejuicios que permean en estos regímenes de futuro, y con ello servir de balance frente a las opacas métricas y cálculos que realizan los sistemas computacionales (Ardévol, 2017; Wang, 2016). Dado que contemplamos la observación de múltiples casos de IA en diferentes dominios y ámbitos de proyección, adoptamos una aproximación etnográfica ‘multi-situada’ (Marcus, 1995; Hine, 2017), la cual ha sido formulada precisamente para seguir las conexiones entre diferentes actores humanos y no-humanos en espacialidades y temporalidades diversas. A su vez, y en línea con enfoques de antropología del diseño (Smith et al., 2016), esta forma de hacer etnografía posibilita una apertura y flexibilidad en donde el proceso de investigación es preferentemente emergente, iterativo e interventivo (Murphy & Marcus, 2013). Diferentes autores han llamado a incorporar métodos inventivos con prototipos para comprender los diseños de los futuros tecnológicos (Lury & Wakeford, 2012; Marcus, 2016; Pink et al., 2020). De esta manera, antes que adoptar un rol pasivo de meros observadores, combinamos la observación participante con prototipos de investigación para indagar en los procesos de la predicción algorítmica de futuros probables, así como el rol del diseño en la construcción de futuros de la IA.

(1) Observación Participante: Con la finalidad de estudiar cómo se presenta y escenifica el diseño de futuros tecnológicos de la IA, se realizarán observaciones in situ de las diferentes actividades, prácticas y usos de la IA. Siguiendo estudios similares (Akama et al., 2018; Pink et al., 2020) a través de esta técnica se buscará: a) Observar y describir las diferentes instancias organizadas por compañías de estudios de mercado, laboratorios de gobierno o agencias de diseño dedicadas a la prospectiva o especulación de escenarios futuros en los ámbitos de estudio; b) Observar los espacios en dónde se prototipan, testean e implementan los sistemas de IA, indagando cómo los actores establecen los criterios de sus predicciones algorítmicas y cómo proyectan e imaginan el futuro de la IA. c) Observar y seguir cómo las personas usan y conviven con los sistemas de IA en los ámbitos de estudio, analizando las reacciones y afectos que despiertan en sus usuarios.

(2) Entrevistas en profundidad: Se propone realizar entrevistas en profundidad semi-estructuradas con actores claves en el diseño de futuros tecnológicos de IA vinculados a los ámbitos de estudio, identificándose tres perfiles de actores relevantes para esta investigación: a) Entrevistas con directivos de empresas, emprendedores, diseñadores, autoridades ministeriales y municipales que participan en la creación y promoción de ciertos imaginarios y escenarios futuros de la IA en el país; b) Entrevistas con programadores, investigadores y creadores que se dedican a la creación y diseño de sistemas de IA y predicción algorítmica; c) Entrevistas con personas que usan y conviven con sistemas de predicciones algorítmicas sobre sus personalidades, preferencias y futuras acciones. Las personas a entrevistar no serán seleccionadas según criterios de representatividad estadística, sino en función de los objetivos de la investigación y los antecedentes que vayan emergiendo en el proceso de estudio. La cantidad de entrevistas se definirá de acuerdo al criterio de saturación informativa en cada ámbito de estudio, pero se espera realizar al menos 60 entrevistas, buscando lograr 20 entrevistas por cada uno de los ámbitos
mencionados (trabajo, vigilancia y movilidad urbana).

(3) Prototipos de investigación: El proyecto se propone complementar las entrevistas y observaciones con métodos inventivos (Lury & Wakeford, 2012; Marres et al., 2018) basado en prototipos de investigación que ayuden a provocar preguntas sobre escenarios posibles (DiSalvo, 2014; 2016). Más allá de la lógica
‘problem solving design’, el proceso de prototipado se usará como una forma de indagación y hacer crítico sobre el futuro de la IA (Ratto, 2011) y de esa manera comprender las reacciones, emociones y problemas que gatillan los escenarios futuros de la IA y predicción algorítmica en las personas. Específicamente, se
espera desarrollar prototipos digitales (ej. visualizaciones interactivas, apps, plataformas) que simulen el funcionamiento de sistemas inteligentes para indagar en las vivencias, prácticas y reacciones de las personas ante la IA y la predicción algorítmica. Asimismo, se espera prototipar escenarios de futuro de la
IA (Angheloiu et al., 2020; Clarke et al., 2018; Forlano & Mathew, 2014) en nuestro país para problematizar los imaginarios y políticas que moviliza esta tecnología. De esta manera, se espera trabajar en el entrecruce entre diseño, computación y la sensibilidad etnográfica del proyecto (Akama et al., 2018; Smith et al., 2016), realizando un prototipo de investigación (tanto dispositivos digitales como escenarios futuros) por cada ámbito de estudio del proyecto.

(4) Análisis documental: El proyecto considera una revisión sistemática de información secundaria con el fin de documentar la creación y diseño de futuros tecnológicos de la IA en Chile. El análisis contará con la revisión de variados tipos de documentos tales como: Informes, leyes, actas parlamentarias, vídeo
presentaciones, sitios web, folletos institucionales, manuales, notas de prensa y digital, entre otras.

A través de estas 4 técnicas se espera generar información para realizar una descripción densa y situada de los casos de estudios y los futuros escenarios que se disputan. En línea con los objetivos del proyecto, estos materiales permitirán analizar los diseños, imaginarios y políticas presentes en los futuros de la IA y la
predicción algorítmica y avanzar en un marco interpretativo y crítico sobre sus efectos en el contexto chileno.

Referencias

Akama, Y., Pink, S. & Sumartojo, S. (2018). Uncertainty & possibility: new approaches to future making in design anthropology. Bloomsbury Publishing.

Angheloiu, C., Sheldrick, L., Tennant, M., & Chaudhuri, G. (2020). Future Tense: Harnessing Design Futures Methods to Facilitate Young People’s Exploration of Transformative Change for Sustainability. World Futures Review, 12(1), 104–122. https://doi.org/10.1177/1946756719844050

Ardévol, E. (2016). Big data y descripción densa. Virtualis, 7(14), 14-38. https://www.revistavirtualis.mx/index.php/virtualis/article/view/186

Baraniuk, C. (2019). The New Weapon in the Fight against Crime. BBC Future. http://www.bbc. com/future/story/20190228-how-ai-is-helping-to-fight-crime

Batty, M. (2018). Inventing future cities. MIT Press.

Clarke, R., Heitlinger, S., Foth, M., DiSalvo, C., Light, A., & Forlano, L. (2018). More-than-human urban futures: speculative participatory design to avoid ecocidal smart cities. En Proceedings of the 15th Participatory Design Conference: Short Papers, Situated Actions, Workshops and Tutorial-Volume 2 (pp. 1-4).

Claudel, M. & Ratti, C. (2015). Full speed ahead: How the driverless car could transform cities. McKinsey. https://www.mckinsey.com/business-functions/sustainability/our-insights/full-speed-ahead-how-the-driverless-car-could-transform-cities#

Comisión “Desafíos del Futuro, Ciencia, Tecnología e Innovación” (2019). Inteligencia Artificial para Chile. La urgencia de desarrollar una estrategia. Santiago de Chile: Senado.

Degli Esposti, S. (2014). When big data meets dataveillance: The hidden side of analytics. Surveillance & Society, 12(2), 209-225.

DiSalvo, C. (2014). Critical making as materializing the politics of design. The Information Society, 30(2), 96-105.

DiSalvo, C. (2016). The irony of drones for foraging: Exploring the work of speculative interventions. Design anthropological futures, 139.

Elliott, A. (2019). The culture of AI: Everyday life and the digital revolution. Routledge.

Lury, C., & Wakeford, N. (Eds.). (2012). Inventive methods: The happening of the social. Routledge.

Marcus, G. E. (1995). Ethnography in/of the world system: the emergence of multi-sited ethnography.

Marcus, G. E. (2016). Jostling ethnography between design and participatory art practices, and the collaborative relations it engenders. En Smith, R. C., Vangkilde, K. T., Kjærsgaard, M. G., Otto, T., Halse, J., & Binder, T. (Eds.). Design anthropological futures (pp. 105-120). Bloomsbury Publishing.

Marres, N., Guggenheim, M., & Wilkie, A. (2018). Inventing the social. Mattering Press.

Mattamala, M. (2019). ¿Qué es la inteligencia artificial? En L. Brossi, T. Dodds & E. Passeron (Eds.) Inteligencia artificial y bienestar de las juventudes en América Latina (pp. 25-36). LOM ediciones.

Murphy, K.M., & Marcus, G.E. (2013). Epilogue: Ethnography and Design, Ethnography in Design … Ethnography by Design. En W. Gunn, T. Otto & R.C. Smith (Eds.). Design Anthropology: Theory and Practice (pp. 251–268). Bloomsbury Academic. http://dx.doi.org/10.5040/9781474214698.ch-014

O’Neil, C. (2017). Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Trad. Violeta Arrranz de la Torre. Capitán Swing.

Pink, S., Osz, K., Raats, K., Lindgren, T., & Fors, V. (2020). Design anthropology for emerging technologies: Trust and sharing in autonomous driving futures. Design Studies.

Ratto, M. (2011). Critical making: Conceptual and material studies in technology and social life. Information Society, 27(4), 252–260

Rifkin, J. (1995). El fin del trabajo: el declive de la fuerza de trabajo global en el nacimiento de la era posmercado. Paidós.

Rouvroy, A., & Berns, T. (2013). Gouvernementalité algorithmique et perspectives d’émancipation. Réseaux, (1), 163-196.

Sadin, E. (2018). L’intelligence artificielle ou l’enjeu du siec̀le: anatomie d’un antihumanisme radical. L’ećhappeé.

Saikia, S., Fidalgo, E., Alegre, E., & Fernández-Robles, L. (2017). Object detection for crime scene evidence analysis using deep learning. En International Conference on Image Analysis and Processing (pp. 14-24). Springer, Cham.

Schäfer, M. T., & van Es, K. (Eds.). (2017). The Datafied Society: Studying Culture through Data. Amsterdam University Press.

Schwab, K. (2017). The Fourth Industrial Revolution. Crown Publishing Group

Smith, R. C., Vangkilde, K. T., Kjærsgaard, M. G., Otto, T., Halse, J., & Binder, T. (Eds.). (2016). Design anthropological futures. Bloomsbury Publishing.

Van ‘t Wout, E., Valenzuela, E., Asahi, K., Pieringer, C., Torres, D., & Larroulet, P. (2019). Big data para la identificación de comportamiento criminal. Propuestas para Chile. Propuestas para Chile Concurso Políticas Públicas 2018. Centro de Políticas Públicas UC.

Van Dijck, J. (2014). Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & society, 12(2), 197-208.

Wang, T. (2016). Why Big Data needs Thick Data. Medium. https://medium.com/ethnography-matters/why-big-data-needs-thick-data-b4b3e75e3d7

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. Profile Books.