A sala llena, el pasado 13 de junio de 2019 se realizó la octava sesión del seminario abierto Sociedad, Diseño y Tecnología. En la ocasión contamos con la presentación de Claudio Celis Bueno, Doctor en Teoría Crítica de la Universidad de Cardiff, investigador del Instituto de Humanidades de la Universidad Academia de Humanismo Cristiano y actualmente desarrolla un proyecto Fondecyt sobre la relación entre imagen y poder en la era de la visión algorítmica. Para escuchar el registro completo de la sesión puede visitar nuestro podcast:
https://anchor.fm/matias-valderrama/episodes/Seminario-SDT-8-Claudio-Celis-Bueno-e4cv58
Claudio inició su presentación con la constatación de que los algoritmos están mediando fuertemente nuestra vida cotidiana y de manera creciente están automatizando todo tipo de trabajos. De especial interés resultan ser los algoritmos de aprendizaje maquínico, pues para Claudio representan una ruptura radical al no partir desde reglas predefinidas y ofrecer solución a problemas desconocidos hasta hora, sin inclusive entender su lógica operativa. Estos algoritmos de aprendizaje maquínico trabajarían sobre grandes bases de datos estructurados y no estructurados que permiten entrenarlos para identificar patrones inesperados o contraintuitivos para los humanos.
La discusión de Claudio se centró en cómo estos algoritmos de aprendizaje maquinico se relacionan con el capitalismo contemporáneo, planteando que no solo están automatizando labores físicas o manuales, sino que también de manera creciente están automatizando tareas perceptivas, cognitivas y de alta complejidad. Si Marx anunciaba que las maquinas apuntan a la reducción del trabajo humano para traspasar a los humanos a la supervisión de la línea de producción, Claudio plantea que la automatización aumentada por complejos sistemas algorítmicos estaría acelerando la producción y reduciendo sus costos, incluso llegando en algunos casos a automatizar la propia supervisión de la producción. Esto haría más crítica la contradicción del modo de producción capitalista, esto es, de reducir o expulsar el trabajo humano de la esfera productiva y a la vez aumentar la necesidad de los humanos por conseguir trabajo asalariado para su subsistencia. De esta manera, el aprendizaje maquínico aumentaría desigualdades del capitalismo estudiado por Marx, reduciendo sus posibilidades de vida al cada vez requerirse menos humanos en la producción capitalista.
Los sistemas algorítmicos de aprendizaje maquinico no solo ayudarían a la automatización de la producción, sino que utilizarían todo tipo de actividad, humana y no-humana, como fuente de datos para el entrenamiento de los propios sistemas. La información generada al interactuar con los servicios de Google o Facebook se vuelve una mercancía de gran valor de cambio que a su vez genera más plusvalía para estas empresas. Recordando una conversación de Negri y Guattari de 1985, cada aspecto de la vida humano es despojado de su dignidad, pasando a ser explotable como dato. O se trabaja incansablemente tanto en la fábrica como fuera de ella, o estamos condenados al ostracismo social. “Y aún así, no hacemos más que acelerar nuestra propia expulsión de esa repetición mecánica que ha devenido el trabajo” (Hardt y Guattari, 1990: 7-8). Por ello en su charla, Claudio nos invitó a preguntarnos en qué medida los algoritmos operan como una nueva dimensión de la explotación del trabajo humano y como una nueva tecnología de poder, obligando con ello a una redefinición de las tradicionales categorías de trabajo y de poder.
Esta creciente relación entre los algoritmos y el capitalismo contemporáneo ha llevado a plantear la existencia de un “capitalismo algorítmico” que exige una nueva teoría del valor-trabajo. Una que incorpore el componente informacional dentro de la fórmula básica de la plusvalía capitalista o que redefina y expanda la propia noción de plusvalía. Junto con ello, el capitalismo algorítmico manifestaría una nueva concepción de poder que podría analizarse, según Claudio, a la luz del concepto de “gubernamentalidad algorítmica” de Antoinnette Rouvroy y Thomas Berns (2013). A diferencia del modelo panóptico en que se vigila y disciplina centralizada y permanentemente a los cuerpos de los individuos, esta forma de gobierno algorítmico sería “a-normativa”, es decir, no parte de una norma, sino que identifica curvas de normalidad que se van actualizando continuamente. Además, no opera sobre un sujeto, sino sobre elementos pre-individuales (datos) y supra-individuales (población). Aplicaría modulaciones sobre relaciones y ambientes, antes que sobre los individuos particulares o los elementos en relación.
Como punto final, Claudio destacó que los algoritmos de aprendizaje maquínico han posibilitado la automatización incluso de la mirada, reemplazando al humano en dichas tareas. Claudio mostró sugerentes casos de ello, por ejemplo, el de los autos de conducción autónoma o el de una campaña publicitaria de Porsche en una carretera en que un sistema algorítmico detectaba el paso de un auto Porsche para cambiar la publicidad de forma personalizada. Ambos casos manifiestan como los sistemas algorítmicos estarían desplazando al humano del acto de reconocer el entorno para diversos fines, generándose una visión que escapa de lo que podemos ver como humanos. En nuestra vida cotidiana se estarían procesando algorítmicamente una serie de imágenes que resultan invisibles para nuestros ojos o que permanecen en el backend virtual de las maquinas. Esta visión maquínica, como la conceptualizó Claudio, no estaría libre de controversias y han aparecido diferentes casos de discriminación algorítmica cuando por ejemplo el sistema algorítmico de Google Images clasificó a sujetos afroamericanos como “gorillas” o cuando el sistema de reconocimiento de ojos de las cámaras Nikon no sacaba fotos a gente asiática por interpretar que estaban siempre pestañando. Todos estos casos, expuestos al final de la presentación de Claudio, abren una serie de espacios para problematizar el capitalismo algorítmico contemporáneo, manifestando la reproducción de prejuicios y desigualdades sociales en el diseño de los algoritmos, así como en los datos con los que se entrena.
Seguido de la presentación, contamos con los comentarios de Carolina Gainza, doctora en literatura y lenguas hispánicas de la Universidad de Pittsburgh y académica de la Escuela de Literatura Creativa de la Universidad Diego Portales. Como un verdadero hipertexto, el comentario de Carolina siguió múltiples caminos con múltiples pistas y enlaces a trabajos literarios relevantes. Carolina planteo sugerentes interrogantes para la discusión: qué nos pasa a nosotros lxs humanxs con toda está automatización, cómo se redistribuyen las agencias en juego más allá de lo humano. Como abordar esas inteligencias no-humanas en sus lógicas y agencias radicalmente otras. Cómo nuestras definiciones de inteligencia o conciencia tienen que ser repensadas ante y con las maquinas.
Carolina profundizó en cómo este capitalismo algorítmico expuesto por Claudio ha ido cambiando el modo de producción cultural y específicamente en el campo de la literatura digital. A juicio de Carolina, la literatura digital refleja ese modo de producción automatizado, por ejemplo, al considerarnos libre al navegar por una novela hipertextual, cuando en la práctica siempre está configurada previamente. Pero al mismo tiempo, según Carolina, la literatura digital contesta y subvierte ese modo de producción algorítmico. Por ejemplo, con internet se ha cambiado la circulación de las novelas, abriéndose espacios de creatividad y de manipulación de las mismas, torciendo la idea de autoría (por ejemplo, pensando el fan fiction). Precisamente, para Carolina hay un potencial de subversión en ese cuestionamiento de la propiedad intelectual, en que todo contenido en internet puede llegar a ser trastocado y se pueden abrir espacios creativos en hipertextos y novelas escritas por algoritmos. Inclusive sin ser un programador uno puede experimentar el potencial de manipulación del lenguaje de código, desde crear un meme a directamente hackear sistemas.
Parte de la discusión generada al abrir la palabra al público fue en torno a cuáles serían los espacios de contradicción, quiebre o falla del capitalismo algorítmico esbozado por Claudio. Parte del desafío que suponen estas nuevas formas de trabajo y explotación, valor y poder, sería pensar en los espacios intersticiales y emancipatorios que abren las mediaciones de datos digitales y algoritmos en la vida contemporánea. Asociado a la pregunta por los espacios de corto-circuito, resulta relevante cuestionarse por el rol de las artes y humanidades ante la automatización del trabajo. Se ha hablado en los medios de una supuesta “crisis de las humanidades”, en que las tecnologías digitales serían parte importante. Vemos cada vez más como la música depende de complejos sistemas algorítmicos, por ejemplo, si pensamos en el autotune o los sistemas de reconocimiento de canciones con copyright. La propia literatura, como mostraba Carolina, ha sido permeada por la mediación algorítmica en términos de procesos de corrección ortográfica, traducciones o en nuevos formatos de publicación. ¿Será reemplazado el trabajo de novelistas, músicos y pintores por sistemas de algoritmos de aprendizaje maquinico, creando personalizadamente el contenido que será popular? ¿O acaso se reinventan y se abren nuevas formas experimentales de creación mediante algoritmos? Novelas, guiones, pinturas y canciones son compuestas por inteligencias artificiales y que empujan a algunos a separar aguas y crear sistemas para la demostración de “no soy un robot” como en el difundido Captcha. Para otros, se hace necesario una redefinición de que es lo maquinal y lo humano, repensando la maquina como agenciamientos humanos y no-humanos, desbordando la tradicional y humanista visión de las artes y humanidades como una labor inefable, incomputable y exclusivamente humana.
Quizás la opción más sensata en estos tiempos de múltiples anuncios de cambio de época, ya sean utópicos o distópicos, sea primero ralentizar la marcha y recordar los extractos de Pablo de Rokha o Gabriela Mistral que mostró Carolina en su comentario. Cada uno en su tiempo, dieron cuenta de las transformaciones experimentadas por la incorporación de nuevas tecnologías, que hoy nos parecen tan familiares y cuasi-naturales como el teléfono o el cine. “Aprovechar el suceso y sacarle el beneficio posible” era la invitación de Gabriela Mistral ante la vilipendiada introducción del Cine en sus tiempos. ¿existe beneficio posible en los algoritmos de aprendizaje maquinico, más allá de la plusvalía explotada? ¿cómo aprovechar el suceso de la automatización algorítmica para la crítica y la emancipación en este capitalismo algorítmico? Son algunos de los variados cuestionamientos que nos dejó esta sesión del seminario SDT.
