¿Arte o porno? La censura de los algoritmos de Inteligencia Artificial en las redes impacta en los creadores

¿Qué habrá hecho el pezón para ser una amenaza tan grande? Es bien sabido que incomoda a las redes sociales, territorio recatado por excelencia a pesar del supuesto avance que representa. Los cuerpos desnudos son clave en la historia del arte y, curiosamente, ahora estas grandes galerías de internet los han convertido en tabú -bueno, a veces, ya verán-. Un tabú que afecta -y mucho- a, sobre todo, artistas visuales, que ven censurados algunos de sus trabajos por la dictadura del algoritmo. Lo que Nuria Oliver, prestigiosa experta en Inteligencia Artificial (IA) y doctora por el Instituto Tecnológico de Massachusetts, denomina la censura algorítimica del arte. Algo que perjudica a creadores por el simple hecho de que, a día de hoy, si una obra no está en una determinada red social, no existe, pues estos son los principales canales de acceso a información y contenidos culturales de la mayoría de mortales.

"Todas las plataformas utilizan algoritmos para la moderación de contenido, y solo en algunos casos hay humanos que lo supervisan", expone Oliver, que desde la fundación European Laboratory for Learning and Intelligent Systems (ELLIS) investigan para, en resumen, mejorar estos algoritmos. "Ponen el foco en el producto, cuando a cualquier artista le preguntas que qué es el arte y te dirán que es su manera de transmitir un mensaje, la intencionalidad, el contexto, y del proceso surge algo, pero ese algo no es el arte. Los algoritmos no entienden todo esto, solamente ven los píxeles de una obra", expone Oliver. La experta en IA, sin embargo, remarca que existen "listas blancas" para quienes, por su interés económico, las plataformas son "mucho más laxas". A Kim Kardashian -señala Oliver- se le permite publicar cosas que a otros no.

'Shadow banning'

Es decir, la situación es la siguiente: la IA juzga el arte humano. Y el filtro, por el que pasan millones de imágenes en cada una de las plataformas, se resume en la pregunta: ¿Arte o porno? La respuesta es incierta. Según la doctora, depende de "la arbitrariedad de los algoritmos". "El desnudo en el arte es esencial desde la Venus de Willendorf, es fundamental, pero desgraciadamente el desnudo con mucha frecuencia es censurado, especialmente el femenino", zanja la investigadora.

Esto puede hacer que, por ejemplo, un retrato lo vean miles y miles de personas o sea censurado. O, incluso, algo más perverso: un autor sea víctima de 'shadow banning', lo que se puede traducir como censura en la sombra. En términos prácticos: cuando un contenido no es eliminado de una red social pero los algoritmos no se lo enseñan a nadie o casi nadie y el autor piensa que ese material, simplemente, no gusta.

Oliver, autora de 'Inteligencia Artificial, naturalmente', desarrolló todo esto la semana pasada en el congreso 'La propiedad intelectual y las industrias culturales ante la inteligencia artificial generativa', organizado por la Sociedad General de Autores y Editores (SGAE). La doctora explica que su proyecto busca mejorar los algoritmos para que sean "más sensibles al contenido artístico y así no lo consideren porno". ¿Cómo? "Que no solo se examine la imagen, sino que, por ejemplo, también se incluya información textual, de contexto. Así hemos logrado una mejora significativa", cuenta Oliver.

La doctora expone que para eso han hecho una investigación cualitativa en la que han entrevistado a artistas de distintas nacionalidades que han sido censurados para entender el impacto que esto ha tenido en sus carreras y vidas. "Queríamos identificar áreas de mejora y acciones que podemos hacer para mitigar este fenómeno en la sombra que causa un impacto en nuestra cultura y expresión artística", explica. Una investigación cualitativa porque "es imposible cifrar cuantitativamente la magnitud y el impacto de la censura algorítmica del arte porque son plataformas opacas".

Oliver pone luz a ese 'fenómeno en la sombra' y cuenta que hay dos tipos de impacto para los artistas: el individual y el social. El primero, supone un perjuicio económico, de pérdida de oportunidades, etcétera. El segundo va mucho más allá: se ve con preocupación la visión que puedan tener las nuevas generaciones de ciertos temas, que tengan una visión distorsionada de la desnudez y del impacto que esto pueda tener en las mujeres, entre otros.