Ni la inteligencia artificial es magia ni los robots neutrales. Así el comercio o los gobiernos comuniquen que las tecnologías cada vez más avanzadas construyen un panorama optimista para el futuro, el arte, en muchas instancias, se encarga de criticar esa visión acrítica.

Nuestro estudiante de la Maestría en Humanidades Digitales Hugo Idárraga escribió el artículo “Identificación, clasificación y control: estrechos vínculos analizados desde las prácticas artísticas en el corazón de la inteligencia artificial” que fue publicado el mes pasado por Artnodes. Revista de arte ciencia y tecnología de la Universitat Oberta de Catalunya. En el texto, Hugo explica que gracias a proyectos artísticos es posible abrir discusiones acerca de los sesgos racistas, misóginos, clasistas que a menudo están en la base del diseño de las máquinas y los algoritmos.

La comparación entre IA y magia […] para criticar este excesivo optimismo, […] sirvió también de excusa para revelar cómo, a través de la eficacia de la IA –al igual que la alquimia en sus inicios–, se esconde una confianza que socava los esfuerzos por analizar científicamente los más crípticos y oscuros procedimientos que ocurren en el interior de estos sistemas, legitimando el poder de quienes los desarrollan e implementan.

Hugo Idárraga, 2020. «Identificación, clasificación y control: estrechos vínculos analizados desde las prácticas artísticas en el corazón de la inteligencia artificial». En: Andrés Burbano y Ruth West (coord.) «IA, arte y diseño: Cuestionando el aprendizaje automático». Artnodes, núm. 26. UOC.

En el artículo, nuestro estudiante no solo examina los desarrollos actuales en machine learning o redes neuronales profundas sino que demuestra que las concepciones de tecnologías autómatas de las que tenemos conocimiento desde la época de Homero “provienen en gran medida de una visión patriarcal del mundo en la que todo lo existente debe ser sometido a una vigilancia que asegure un control sobre lo real”.

“Identificación, clasificación y control: estrechos vínculos analizados desde las prácticas artísticas en el corazón de la inteligencia artificial” utiliza la investigación visual que Hugo ha desarrollado durante los últimos años sobre los límites de la vigilancia y el control para los que parecen estar diseñados muchos modelos algorítmicos.