Redescobrir a mão humana

A criatividade é o meu ofício. Desde o primeiro emprego, fui paga para escrever, ilustrar, comunicar e criar. Criar algumas coisas legais, algumas entediantes, mas, ainda assim, meu trabalho sempre foi criar. Comecei a pesquisar sobre automação da criatividade ao longo da minha graduação em design; o tema é inevitável, e não só por sua crescente popularidade¹. Enquanto disciplina, o design inevitavelmente pensa os meios de produção. No fim do século 19, William Morris se preocupou com a mecanização da produção de tapeçarias: o que a produção fabril dessas peças significaria para os artesãos, que não ganhavam apenas o seu sustento, mas também adquiriam uma satisfação pessoal e um senso de propósito através daquele ofício². Hoje, eu tenho de me preocupar com máquinas que criam textos, imagens – máquinas que criam “arte”. Porque eu sou uma dessas pessoas – que tira seu sustento e uma parcela significativa do próprio senso de identidade do ato de criar.

Piano mecânico (Intrínseca, 2020), primeiro romance de Kurt Vonnegut, descreve uma sociedade futurista distópica na qual quase tudo foi mecanizado, da totalidade da produção industrial até a vida doméstica, a educação e a cultura. A sociedade passa a ser, então, dividida em classes intelectuais: de um lado, os gerentes e engenheiros, aqueles que projetam e dominam as máquinas. Do outro, todas as outras pessoas, cujos postos de trabalho deixaram de existir, relegando-as ao ócio ou à prática de tarefas enfadonhas e degradantes que não compensam, financeiramente, a automação completa. 

O livro foi publicado em 1952 e teve como principal inspiração o tempo que o autor trabalhou na fábrica da General Motors. Na narrativa de Vonnegut, bastou gravar os movimentos de um bom trabalhador de fábrica, registrando-os em uma fita, para que o maquinário fosse capaz de reproduzir o trabalho infinitamente. Os jovens engenheiros protagonistas da trama, Paul Proteus e Ed Finnerty, são os responsáveis por registrar o trabalho de Rudy Hertz, o melhor operário de uma fábrica, e então replicar suas habilidades nos robôs que o tornariam obsoleto para sempre.

A ideia de registrar movimentos que imprescindem a habilidade humana para reproduzi- los de maneira não humana pode ter parecido fantasiosa para Vonnegut nos anos 1950, mas configura a premissa básica de ferramentas com base em Inteligência Artificial (IA): armazene dados sobre um processo, treine uma máquina com eles e ordene que ela realize uma tarefa. Era esperado que operações industriais e repetitivas fossem massivamente substituídas por maquinário automatizado, como vem acontecendo gradualmente desde o início da industrialização, mas até alguns anos atrás havia uma gama de habilidades que parecia intocável: o talento, a criatividade, a imaginação. Máquinas podem reproduzir, mas não podem criar, certo?

Talvez máquinas ainda não possam criar, mas está em curso um processo de reprodução da criatividade. Isso foi hiperevidenciado pelo projeto The Next Rembrandt, de 2016. Equipes dos museus holandeses Mauritshuis e Rembrandthuis, em colaboração com a Microsoft, o banco ING e a Universidade de Tecnologia de Delft, trabalharam no projeto, que digitalizou 346 pinturas de Rembrandt usando scans 3D para treinar um algoritmo de aprendizado profundo. O algoritmo foi capaz de projetar uma nova pintura – o próximo Rembrandt – com base em todas as características empregadas pelo pintor em sua obra: geometria, luz e sombra, temas recorrentes, feições e, por fim, até mesmo as pinceladas. A pintura final não foi uma imagem digital, mas uma peça texturizada impressa em 3D.

Quando falamos de ferramentas generativas, logo imaginamos avatares cafonas estilo Pixar, criados a partir de selfies para serem postados nos stories do Instagram. No entanto, elas podem atingir um nível técnico bem mais refinado. A IA tradicional é projetada para realizar tarefas específicas a partir de exemplos e dados etiquetados, como reconhecimento facial e detecção de textos. Já a IA generativa, também conhecida como “aprendizado profundo generativo”, utiliza algoritmos para gerar novos dados de forma independente e não supervisionada. Dessa forma, a IA generativa pode produzir imagens, textos, áudios e vídeos novos a partir dos dados fornecidos para o seu treinamento. Nada impede que o mesmo algoritmo utilizado para reproduzir o trabalho de Rembrandt armazene as obras de outros pintores, de designers consagrados como Paula Scher e Stefan Sagmeister³, ou mesmo o meu trabalho. Talvez o seu.

O que motiva isso tudo? O algoritmo em questão foi treinado com mais de 300 pinturas de Rembrandt. Essa quantidade não é suficiente? De onde vem a vontade de ver a próxima pintura de um artista que morreu há mais de 350 anos? A quem interessa substituir o fazer e a criatividade humana por algoritmos? Por que estamos tentando criar robôs que fazem exatamente o que um humano faz? 

Um argumento comum, talvez um dos mais repetidos no ambiente comercial, é que ganha-se tempo. O ano de 2023 foi marcado pelo lançamento de diversas ferramentas generativas de design que funcionam com base em IA. A Adobe incorporou ferramentas de IA para geração de imagens, vetores e texto nos aplicativos da Creative Cloud, inclusive no Adobe Photoshop, que é utilizado por mais de 90% dos profissionais na indústria criativa. A plataforma Canva lançou geradores de imagens baseadas em texto, de vídeos com avatares – você digita a mensagem e um personagem faz uma leitura interpretativa – , de áudios para voice over e até de trilhas sonoras para apresentações. Já o Figma adquiriu a startup Diagram e anunciou que já está trabalhando para disponibilizar ferramentas de inteligência artificial que “otimizam o fluxo de trabalho” dos usuários.

Todos os anúncios citados foram feitos nos sites oficiais das empresas e vieram acompanhados de um discurso em comum, o da compressão do tempo. De acordo com Adobe, Canva e Figma, essas novas ferramentas podem otimizar a produção, diminuindo o tempo gasto em cada trabalho e propondo soluções, dentre as quais os designers humanos poderão escolher a melhor para aplicar. Trabalhar com mais automação e rapidez parece um futuro atraente, mas será que a diminuição no tempo de trabalho e geração de peças e ideias on demand não pode mitigar a parte do design que requer dedicação às ideias? Quais seriam as consequências da falta de tempo para reflexão e amadurecimento de soluções? 

E ainda: o que um trabalhador faz com o tempo que sobra? De volta a Piano mecânico, o livro tem um trecho que toca nesse ponto. Há um personagem, o xá de Bratpuhr, que é um forasteiro, um líder espiritual de uma sociedade distante que não sabe nada sobre os Estados Unidos ultramecanizados do romance. Ele descobre o funcionamento da distopia ao mesmo tempo que os leitores do livro, sempre guiado e instruído por Halyard, um executivo do governo. Em sua exploração, o xá pede para conhecer a vida e a casa de uma família média⁴. 

— E esta é a lavadora ultrassônica de louça e de roupas — informou Dodge. — Som em alta frequência passa através da água para eliminar sujeira e gordura em questão de segundos. É mergulhar e tirar. Bingo! Está pronto!
— E o que a mulher faz depois disso? — perguntou Khashdrahr⁵.
— Depois ela coloca as roupas ou a louça nesta secadora, que seca tudo em questão de segundos e, para mim esse é um belo truque, deixa as roupas com um cheirinho natural de limpeza, de ar livre, como se tivessem secado ao sol. Tudo com esta pequena lâmpada de ozônio bem aqui, estão vendo?
— E depois? — perguntou Khashdrahr.
— Ela insere as roupas neste passador, que, em três minutos, cuida do que antes da guerra, com um ferro de passar, levava uma hora. Bingo!
— E depois, o que ela faz? — perguntou Khashdrahr.
— Depois está tudo pronto.
— E depois, o que ela faz?
O doutor Dodge ficou visivelmente vermelho.
— Isso é uma piada?
— Não — respondeu Khashdrahr. — O xá gostaria de saber o que a mulher Takaru… — O que é Takaru? — perguntou Wanda, desconfiada.
— Cidadão — explicou Halyard.
— Sim — confirmou Khashdrahr com um sorriso estranho. — Cidadão. O xá gostaria de saber por que ela precisa fazer tudo tão rápido… isso em questão de segundos, aquilo em questão de segundos. Por que ela está com tanta pressa? O que mais ela tem de fazer, a ponto de não poder desperdiçar tempo nenhum com essas coisas?
— Viver! — exclamou o doutor Dodge, efusivo. — Viver! Extrair da vida um pouco de diversão.
Ele riu e deu um tapinha nas costas de Khashdrahr, como se quisesse fazer o intérprete pegar no tranco e sentir um pouco da alegria daquela casa de um americano médio. Aquela explicação não surtiu muito efeito em Khashdrahr e no xá.
— Entendi — disse o intérprete com frieza, e depois se dirigiu a Wanda. — E como você vive e se diverte tanto com a vida?
Wanda corou, olhou para o piso e desamassou a ponta do tapete com o dedão do pé. — Ah, com a televisão — murmurou. — A gente assiste bastante televisão, né, Ed? E eu passo um tempão com as crianças, a pequena Delores e o jovem Edgar Júnior. Isso, sabe? Coisas.

Você já ouviu falar de alguém que passou a trabalhar menos nos últimos anos graças à evolução dos softwares? Normalmente, o tempo “ganho” é simplesmente utilizado para encaixar mais trabalho. Se as funções que exercemos estão se tornando cada vez menos especializadas, menos técnicas, há uma tendência de que a remuneração por elas diminua; no fim, trabalha-se quase o mesmo para receber quase a mesma remuneração, mas agora em condições piores, com mais demandas para atender, mais clientes para manejar, um imposto de renda mais complicado a cada ano. A incorporação dessas ferramentas no mercado criativo cria um estado permanente de competição, no qual os profissionais estão sempre sob pressão para criar projetos que IA generativa não poderia produzir sozinha. Há uma sensação de estar sempre correndo para manter-se a salvo. O que deveria melhorar as condições de trabalho tem contribuído para a precarização do trabalhador. 

O segundo motivo das big techs para impulsionar projetos de automação da criatividade é o desejo de controle do mercado, espelhado também por consumidores – a atraente ideia de poder fazer o Rembrandt pintar o que eu quiser, quando eu quiser. Em What Design Can’t Do: Essays on Design and Disillusion (Set Margins’, 2023), Silvio Lorusso traz atenção para esse aspecto da automação comentando o caso da promessa The Grid. Trata-se de um sistema para projetar sites com uma IA personificada, a Molly, retratada como alguém que é “excêntrica, mas nunca vai te dar ghosting, nunca cobrará mais, nunca perderá um prazo, nunca recuará diante das suas demandas de aumentar o logo”. De acordo com a Vice⁶, o projeto anunciado em 2014 arrecadou mais de 5 milhões de dólares em crowdfunding e nunca foi lançado. Para Lorusso, a lição a ser aprendida com o The Grid é que a automação no campo do design reforça expectativas e desejos sociais: “as pessoas querem acreditar que os designers, assim como qualquer outro gatekeeper, são substituíveis por uma máquina dócil”. 

Para mim, mais do que tempo e controle, há outro fator, muito mais forte – mas que não vai figurar nos discursos de grandes empresas de tecnologia (apesar de ser visível e facilmente verificável): o desprezo pela condição humana. Pode soar dramático, mas é a verdade: trabalhadores do futuro não sangram⁷. Em 2022, portais de tecnologia noticiaram a atuação do “designer” Nikolai Ironov – que é, na verdade, uma rede neural do estúdio russo Art. Lebedev. Todos os seus trabalhos e até seu rosto foram gerados por um sistema desenvolvido em sigilo pelo departamento de computação. O site oficial do sistema, no qual é possível contratar serviços de comunicação visual, declara que “clientes podem obter um resultado completamente único em questão de segundos, economizando tempo e dinheiro”. Roman Kosovitch, o desenvolvedor-chefe de Nikolai Ironov, vai além, demonstrando que odeia direitos trabalhistas:

Ironov pode efetivamente realizar tarefas comerciais de verdade. Ele está disponível 24 horas por dia, sete dias por semana, não fica doente nem tem bloqueio criativo; enquanto isso, desenvolve e resolve problemas criativos em questão de segundos. E, o mais importante, oferece visões absolutamente únicas das soluções de design.

O quanto essa realidade de automação dos processos criativos está próxima? A automação completa se mostra, na verdade, um sonho distante: todos os softwares acessíveis ao público geral que prometem isso ou ainda não existem (como o próprio The Grid, que já tem uma década), ou ainda são incapazes de oferecer resultados satisfatórios, não só esteticamente, como também técnica e comercialmente (há questões de disputa de autoria das obras, por exemplo). Mas existem processos semelhantes aos descritos na distopia de Piano mecânico acontecendo de maneira gradual e até silenciosa. Segundo uma matéria da Wired⁸, em fevereiro de 2024 a Adobe atualizou os termos de uso de seus softwares, informando aos usuários que poderia acessar o conteúdo produzido por eles “por meio de métodos automatizados e manuais” e usar “técnicas como aprendizado de máquina para melhorar os [serviços e software] da Adobe”. Profissionais criativos ficaram agitadíssimos, porque interpretaram os novos termos como uma confissão de que a empresa utilizaria seus dados para treinar sua própria IA generativa, a Adobe Firefly. Após a reação revoltada da comunidade criativa, a Adobe se pronunciou, dizendo que não usaria os dados para treinar suas ferramentas generativas estilo fast food de design, mas sim para aprimorar processos considerados mais técnicos, como o content-aware filling⁹. Nesse cenário, nós acreditamos na palavra dela? 

Toda vez que tento falar sobre esse assunto, alguém aparece para me dizer: “a tecnologia não vai parar de avançar, outras revoluções tecnológicas já aconteceram e ninguém morreu por isso, o que vai mudar é o papel do designer na cadeia criativa etc.”. Apesar de não ser mentira, ainda há motivos para se importar.

Primeiro, a questão social não pode ser ignorada. Para cada designer que se tornará gerente ou engenheiro de prompt, definindo parâmetros criativos para robozinhos designers, muitos poderão ficar obsoletos e perder seus trabalhos. Segundo, quanto mais automatizado o processo, mais dependentes nos tornamos das ferramentas empregadas¹⁰; e somos limitados por elas. É o paradoxo humano-aparelho, descrito por Vilém Flusser no ensaio “A fábrica”, que faz parte da coletânea O mundo codificado¹¹ (Ubu, 2024): “o aparelho só pode fazer o que o homem quiser, mas o homem só pode querer aquilo de que o aparelho é capaz”. A rede-neural-Rembrandt pode ter gerado uma média de todos os Rembrandts, mas ela nunca será capaz de dizer se o verdadeiro Rembrandt não estava prestes a se reinventar pintando uma cena de natureza morta antes de morrer. É que nós somos capazes de fazer muito mais do que uma média de tudo o que já fizemos na vida, inclusive coisas que nem nós, nem ninguém nunca fez antes. Por mais que ferramentas generativas possam embaralhar as possibilidades, criando a ilusão de infinitos resultados possíveis, elas são máquinas de probabilidade e estatística, e isso limita a elas, e não a nós, humanos. 

O terceiro ponto é que vale a pena questionar quais parâmetros são considerados mais decisivos quando tais máquinas são treinadas. Há uma chance bem alta de que a importância de resultados comerciais seja inflada para que as criações sejam cada vez mais palatáveis para o mercado, o que anuncia uma perigosa homogeneização visual. Na obra de Vonnegut há uma cena em que Halyard, o guia do xá de Bratpuhr, explica como a cultura funciona naquela sociedade:

— Bem, um esquema completamente automático como esse deixa a cultura muito barata. Um livro custa menos do que sete pacotes de chiclete. E também existem clubes de quadros… com quadros emoldurados a preços incrivelmente baixos. Na verdade, a cultura é tão barata que um homem, em vez de usar lã de rocha, forrou as paredes da casa com livros e gravuras para ter isolamento térmico. Não acredito que isso seja verdade, mas é uma história interessante, com uma moral válida.
— E os artistas recebem um bom sustento com esse sistema de clubes? — quis saber Khashdrahr.
— Sustento… acho que sim! — respondeu Halyard. — Estamos na Era de Ouro da Arte, com milhões de dólares investidos por ano em reproduções de Rembrandt, Whistler, Goya, Renoir, El Greco, Degas, Da Vinci, Michelangelo…
— E esses sócios dos clubes recebem um livro qualquer, um quadro qualquer? — perguntou Khashdrahr.
— Certamente não! Há muitos estudos sobre o que vai ser distribuído, acredite. Pesquisas sobre os gostos de leitura do público, testes de legibilidade e apelo com os livros que estão sendo analisados. Ora, publicar um livro impopular acabaria com um clube em dois tempos! — Halyard estalou os dedos sinistramente. — Eles mantêm a cultura tão barata conhecendo de antemão o que as pessoas querem, e em que quantidade. E eles acertam tudo nos mínimos detalhes, até mesmo na cor da capa. Gutenberg ficaria espantado.

Uma coisa interessante em relação a Piano mecânico é que, a princípio, a narrativa não parece tão distópica assim. Há bastante desigualdade social, e Ed Finnerty menciona que “o uso de drogas, o alcoolismo e o suicídio seguiam aumentando na mesma proporção” das válvulas das novas máquinas. É um cenário triste, mas que já foi atingido fora da ficção¹². Da mesma forma, a pobreza e o desemprego em massa são problemas comuns em países capitalistas. Se uma distopia é um estado imaginado de extrema opressão, esta não pode ser a nossa distopia porque, infelizmente, é realidade. O que há de pior sobre a sociedade em Piano mecânico, na minha visão, é muito mais sutil: a vida não tem graça. Ninguém pode criar a arte que gostaria de criar, toda diversão é previsível, mecânica, ensaiada, pré-programada. Não há espontaneidade, a cultura é homogênea, as pessoas não têm qualquer senso de propósito. A padronização e o tédio constantes são o que tornam esse cenário verdadeiramente distópico. 

Temo que estejamos caminhando para esse estranho destino. O designer gráfico médio, podemos dizer, trabalha cotidianamente a partir de briefings, criando materiais para marcas (identidades visuais, anúncios etc.). É bem provável que publicitários já estejam gerando briefings com ferramentas como o ChatGPT para ganhar tempo. O designer que recebe esse briefing, também seduzido pela ideia de produzir mais em menos tempo, já pode solicitar ao ChatGPT que defina parâmetros e atributos visuais que correspondam ao briefing recebido. Ao inserir os parâmetros visuais em outro programa qualquer, dessa vez um gerador de imagens, como o MidJourney, ele receberá algumas propostas em poucos segundos. Avaliará os resultados. Selecionará a opção mais promissora e finalizará sua demanda a partir dela. São robôs respondendo a robôs. Eu não sei vocês, mas eu não quis trabalhar com criatividade para isso. Eu quis porque, inexplicavelmente, para além dos ganhos materiais, trabalhar imaginando me garante alguma satisfação pessoal, algo que nunca encontrei fora dos trabalhos criativos. Há um valor no ato criativo difícil de exprimir em palavras. Há prazer. O prazer desencadeado pelo ato criativo é subestimado e até mesmo ignorado por essas propostas de automação. 

Em dezembro de 2016, Francisco Laranjo publicou na revista Eye uma peça de ficção intitulada “Ghosts of designbots yet to come”, em que imagina o futuro do design em 2025. Estamos quase lá. Em um tom irônico, ele descreve como a automação do ofício criativo liderada por grandes empresas de tecnologia teria tornado o exercício do design inviável. 

Agora, em 2025, os designers são gerentes de dados. Bots de design trabalham para e com bots de marketing. Designers gráficos e a imprensa de design deixaram de ser regulados pelo mercado. Tentando escapar da automação, milhares de designers mudaram-se das grandes cidades para países onde esse processo é mais lento. […] Com os avanços tecnológicos, a falta de interesse dos designers em infraestrutura revelou-se suicida. As empresas foram atrás das informações dos designers gráficos e eles as entregaram por selos, figurinhas e curtidas. Os designers agora são principalmente intermediários de informações.

O quão deprimente é o fato de que Laranjo acertou? Não aconteceu ainda, mas sua previsão já não parece tão absurda, tão distante. Estamos vivendo um momento determinante na história do trabalho do design, em que podemos aceitar docilmente enquanto as big techs coletam nossos dados para treinar seus robôs; em seguida, também docilmente, incorporar esses robôs ao nosso próprio fluxo de trabalho. Ou então podemos ler Piano mecânico como um alerta: talvez o crescimento econômico a partir da automação não garanta uma vida melhor para ninguém. Como Paul Proteus e Ed Finnerty, cabe a nós redescobrir as duas maiores maravilhas do mundo: a inteligência e a mão humana.