Burrice artificial
Prompts sonham com ovelhas elétricas?
A criação artística é invariavelmente humana. Há anos eu bati nessa tecla numa discussão com alguém que comentava, em tom alarmista, que em breve o trabalho do desenhista seria “substituído” por “softwares de desenho”. Uma ideia que já me parecia, na melhor das hipóteses, burra. Burra por desconhecer princípios básicos sobre criação, arte, artistas. A criação artística é humana pois não há fórmula ou equação que caiba o caos. O processo criativo é instável, metodológico, espinhoso, contraditório, imprevisível. Como incluir numa fórmula o impulso do traço? Como incluir o erro num processo algorítmico que trava a qualquer intempérie?
Naquela época já se conhecia algoritmos que replicavam estilos de artistas que levaram anos para serem desenvolvidos e agora vemos outra afronta: o uso de prompts textuais para gerar imagens a partir de um banco de dados roubado.
First things first. ”Inteligência artificial” é um termo abrangente para tecnologias que processam informações e analisam dados, numa tentativa superficial que tenta “imitar o pensamento humano” (sic). Formas bem simples de IA existem desde 1950, mas nos últimos 15 anos IAs têm se desenvolvido desenfreadamente.
E como funciona uma IA de prompt? As plataformas de empresas tecnológicas milionárias recebem comandos (prompts) textuais e, a partir desses comandos, é acessada uma base de dados (de imagens ou textos). Essa base é segmentada por descrições ou categorias, e é a partir delas que os dados são combinados para gerar uma resultado a pedido do prompt. Neste texto eu vou abordar majoritariamente esse tipo de IA (a IA de prompt, sobretudo o prompt que gera imagens), embora a crítica possa ser aplicada também a outros tipos de algoritmos chamados “inteligentes”.
“Inteligentes” porque a própria concepção do termo “inteligência artificial” é um erro. Inteligência é algo humano. Algo que não se metrifica de forma simples (embora sempre tentem fazê-lo) e nem tem apenas uma medida. Quem teve a pachorra de descrever um algoritmo como algo “inteligente”? Um algoritmo pode ser eficiente, obediente. Mas inteligente? É como se falássemos que um algoritmo é gentil ou vaidoso. Não cabe.
O buraco é ainda mais fundo quando falamos das imagens da base de dados. Dados são o petróleo do século XXI. Como essas empresas tecnológicas milionárias alimentam sua base de dados? Você deve pensar que, se elas têm dinheiro, elas devem pagar artistas por isso, certo? Certo?????
Errado. As bases de dados do Midjourney, DALL-E, META e afins são alimentadas por imagens utilizadas no Discord ou no Google. Essas imagens são fotos, desenhos, ilustrações, quadros, frames de filme, memes, etc. enviadas a Deus dará de uma pessoa para outra, de upload em upload, em plataformas de conversas ou pela internet afora. Não há qualquer garantia de que os autores ou as pessoas retratadas nessas imagens liberaram seu direito de uso. Em miúdos: uma empresa milionária está adquirindo, usando e reproduzindo dados (imagens) sem pagar por isso e sem pedir autorização. Talvez alguém esteja criando fotos pornográficas suas com IA neste exato instante com uma ferramenta de deep fake. Ou talvez minhas ilustrações estejam no banco de dados de “flat design” e eu não esteja recebendo nenhum dólar do Vale do Silício por causa disso. Nesses dois casos vemos uma infração de direito moral (uso indevido da imagem de alguém, ou não autorização da obra de um autor) e de direito patrimonial (venda não autorizada de um patrimônio). Este roubo de dados é, além de criminoso, antiético.
Agora imagina se fosse roubo ou uso indevido em massa de alguma patente ou propriedade intelectual da Netflix? Da Nintendo? kkkk Mas como é roubo de autor, ilustrador, criador independente, etc. tá permitido. Nessas horas você se pergunta o que é que protege os direitos dos artistas hoje em dia, não é mesmo?
Indo mais a fundo: tecnologias IA escondem em seu próprio sistema o trabalho humano precarizado, os chamados ghost works. Para que um algoritmo entenda que está escrito ADIDAS numa imagem, é preciso que um humano treine a máquina. O algoritmo é burro, portanto não consegue interpretar uma imagem propriamente. O humano que é inteligente, o humano de fato interpreta imagens. O humano sonha com ovelhas elétricas. O algoritmo não. O algoritmo reproduz imagens de ovelhas elétricas. Para que o algoritmo “aprenda” (aqui outro termo humano) a replicar dados, é preciso horas e horas de treino feito por uma pessoa precarizada do Sul global: a cada mil cliques que diferenciem AFIDAS ou ATIDAS de ADIDAS, a pessoa vai ser remunerada por 1 USD. Trabalho escravo no Sul Global e esse uso de IA estão sinistramente relacionados.
A exploração do trabalho anda de mãos dadas com a degradação do meio ambiente. O fascismo mostra uma de suas grandes vertentes aqui também: o ecofascismo. Os data centers de IA causam um impacto ambiental absurdo no planeta. As matérias-primas para produção dos componentes eletrônicos são caras e difíceis de encontrar, e a extração desses componentes é destrutiva para o meio ambiente. Os data centers produzem muito lixo eletrônico perigoso e contagioso, como mercúrio e chumbo. E para resfriar os componentes elétricos, gasta-se muita água e muita energia, produzindo ainda mais queima de combustíveis fósseis e aumentando a quantidade de gases do efeito estufa. Mais calor, menos água, mais veneno. Que projeto tecnológico é esse cheio de problemas e contrapartidas? Adicione a exploração dos trabalhadores do Sul Global nos ghost works com as terras exploradas na América Latina ou na Ásia por causa de matérias primas de elementos eletrônicos. Tudo está conectado. Não por acaso o Elon Musk apoiou o golpe na Bolívia, um país cheio de reservas de lítio.
Cada crise capitalista cria novas ferramentas de precarização do trabalho. IA é apenas mais uma dessas ferramentas. Não à toa IA são usadas por techbros aliados aos ideais fascistas, já que o ódio à arte, aos artistas e ao lúdico é uma forma de controlar sonhos e novas possibilidades de mundo. É assustador perceber que talvez os millenials sejam a última geração que vivenciou o analógico e tenha a capacidade de perceber a estética da manipulação visual de uma IA. As novas gerações talvez não tenham esse "filtro" no olhar, pois já nasceram num mundo gerativo. A cópia da cópia da cópia da cópia da cópia. Faço parte de uma geração que nasceu em outro regime visual do mundo, como diria Susan Sontag.
Este novo regime visual de mundo da IA tem um propósito: é um regime de estética fascista, uma visualidade tosca e destrutiva. É muito útil ao ideal fascista que a propagação de linguagens visuais racistas, colonialistas e misóginas sejam tão facilmente replicadas por pessoas que não querem contratar artistas remunerados. A desumanização do mundo é um princípio fascista. Quer algo mais fascista do que odiar tanto trabalhar com um ser pensante e questionador (um humano) que a melhor opção é substituí-lo pelo ser mais obediente de todos (uma máquina)? É claro que techbros e fascistas serão aliados do que permeia IAs.
E qual o benefício em IA, então? Existe algum? Ou melhor: é possível confiar nas respostas das análises de dados de IAs? Penso que IA possa acelerar (embora eu mesma acredite que cada vez mais precisemos desacelerar do que acelerar) alguns processos, como IAs que detectam anomalias de liberação de metano em instalações de petróleo ou IAs que alertam sobre doenças em exames médicos, mas a verificação humana é uma etapa crucial. Em IAs de prompt, então, nem se fala. Como confiar em análise de imagens se a ferramenta é invariavelmente racista e confunde gorilas com pessoas negras? Como confiar em IAs para decidir candidaturas para vagas de emprego? Como criar um post de Instagram ao saber que essa tecnologia foi proporcionada pelo trabalho miserável de milhares de pessoas na Índia? Não existe uso ético ou uso responsável de uma tecnologia propositalmente projetada para perpetuar dogmas tão nocivos.
"Mas precisamos hackear o sistema de dentro!" Ai, gente, chega de leitura errada do realismo capitalista. Todo meu desprezo a quem lê um texto incrível do Mark Fisher para se tornar um conformista. Não se destrói o racismo combatendo ele com mais racismo. Ou mais xenofobia. Ou mais precarização. O sistema do capitalismo tardio se combate com ferramentas distintas a ele. Para citar algumas sugestões: leis trabalhistas consolidadas, posicionamento a favor dos direitos do trabalhador, lei de regularização do uso de imagens na internet, evolução e consolidação do Marco Civil da internet. Um movimento regulamentista e reformista parecido ao cartismo na Revolução Industrial inglesa, para se dizer o mínimo.
É preciso ser radical e não abaixar a cabeça. Não passar pano. IA é um tema tão espinhoso e cheio de lobby a ponto da própria esquerda relativizar algumas das questões que envolvem o assunto, como o uso de prompts para criar thumbnails de vídeos no Youtube (pelamordedeus, contratem um designer!) ou quando confunde-se o que é a patente de um monopólio com a proteção do direito moral e patrimonial de um autor. Não é sobre ego ou propriedade. É sobre direitos de trabalhadores e artistas frente uma das maiores ferramentas de precarização do trabalho dos últimos anos.
“Mas precisamos criar imagens!” Precisamos mesmo! Precisamos criar imagens de forma responsável, com tempo (e não prazos de urgência), salários justos, e direitos trabalhistas de verdade. Por isso devemos investir em artistas reais, e não sanguessugas que não sabem levantar um lápis de cor. Criação de imagens é criação de mundos, é capacitação de sonhadores. E precisamos investir em arte. Sem arte, não há sonho. E uma sociedade que não sonha, tá morta, adaptando uma das falas do Mano Brown.
Por um tempo insisti que a IA era apenas uma ferramenta que poderia até nos ajudar como artistas. E realmente me ajuda e me poupa tempo quando preciso estender ou preencher alguma imagem para fazer uma colagem por exemplo. Ao meu ver a ferramenta em questão, pode ser comparada talvez a uma tinta de fácil uso e baixo custo, porém extremamente tóxica que afeta tanto o pintor quanto o consumidor final. 🥴
Caralho que textão lindo 😭 falou tudo que eu penso e sinto e não sabia de onde tirar as referências certas para falar o que precisa ser dito. Obrigada por existir e se posicionar sobre assuntos tão relevantes pra nossa comunidade de artistas e designers.