"A IA tem que ser copiloto, nunca piloto": Felipe Iszlaji, da Clarice, sobre criatividade na era das LLMs 

Felipe Iszlaji fundou a Clarice para ajudar pessoas a escreverem melhor com apoio de inteligência artificial; no Hipster Talks, ele defende que a intencionalidade humana continua insubstituível diante das LLMs e argumenta que reduzir toda comunicação humana a textos gerados por IA seria "uma grande burrice da humanidade" 

A frase de Felipe Iszlaji, cofundador e CEO da Clarice, é o ponto de partida da tese que ele defende: a tecnologia mudou para sempre o processo de escrever, mas não substituiu (e não vai substituir) a intencionalidade humana por trás do texto. 

Felipe não chegou à inteligência artificial pelo caminho mais óbvio. Estudou comunicação, fez mestrado em cinema, doutorado em linguística computacional e pós-doutorado em computação criativa. Uma trajetória que, segundo ele, só faz sentido "olhando para trás e juntando os pontos".  

Hoje, à frente da Clarice, uma startup voltada à escrita assistida por IA em português, ele vai na contramão do entusiasmo raso sobre os grandes modelos de linguagem, tratando-os, na melhor das hipóteses, como ferramenta, nunca como substituto. 

Em uma conversa com Paulo Silveira no Hipster Talks, Felipe discute os limites técnicos e filosóficos dos LLMs, recorre à hipótese de Sapir-Whorf e ao conto de Ted Chiang que deu origem ao filme "A Chegada" para explicar como a estrutura da linguagem molda o pensamento. 

E, ainda, apresenta a tese do livro que está escrevendo, batizado de "Animal Narracional": a ideia de que os seres humanos não são guiados pela razão, mas por narrativas. 

Você tem um discurso sobre os limites das LLMs que foge do óbvio "qual modelo é mais rápido ou mais barato". Por que esse recorte te interessa mais? 

Tem uma frase do poeta Pablo Neruda que diz que escrever é fácil: você começa com letra maiúscula e termina com ponto final. É irônico, porque a dificuldade real está no conteúdo e na intencionalidade humana por trás do texto.  

Antes das LLMs, a gente já tinha os geradores de "lero-lero", textos que cumpriam a forma, tinham maiúscula, ponto final, frases de tamanho razoável, mas não serviam para nada.  

As LLMs são uma evolução enorme desses geradores, mas ainda têm limitações impostas pela própria tecnologia dos Transformers, pelos dados de treinamento e até pela etapa de verificação humana, o chamado human reinforcement feedback.  

O que essa tecnologia realmente faz por nós é economizar tempo. Quando o GPT-3 saiu, antes de existir o ChatGPT, eu escrevi que a gente nunca mais ia escrever como antes, palavra atrás de palavra, diante da página em branco. E talvez seja a maior transformação no processo de escrita desde que ela foi inventada, há cinco mil anos.  

Mas você continua precisando saber o que quer passar. Essa ideia é fundamentalmente humana. Prender a atenção de outro humano também é um trabalho que só o humano consegue fazer. 

Isso significa que a criatividade humana nunca fica obsoleta, mesmo com as ferramentas subindo de nível? 

Exatamente. Pensa na arte e na moda: elas mudam porque o artista precisa chamar atenção de um jeito diferente do movimento anterior, para se diferenciar e ser visto. Se as LLMs elevam o nível geral de criatividade de, digamos, oito para nove, você ainda vai precisar se destacar dentro desse novo patamar, porque o nove virou o novo oito.

Todo mundo criando daquele jeito, você precisa criar melhor. Isso vale sobretudo para escrita, que é onde eu mais atuo; não me considero tão versado em LLMs para código.  

Eu fiz cinema, mas nunca pude ser cineasta, porque cinema é caríssimo, você paga para fazer, ao invés de receber dinheiro. Hoje em dia, talvez tivesse sido diferente.

As ferramentas que os estudantes de cinema têm, para gerar imagens e filmes, podem democratizar muito mais a área e revelar talentos muito mais rápido.  

Mas a linguagem, ainda que mais barata, continua servindo para contar uma história que um humano pensou e que sabe para quem e por qual canal distribuir. É por isso que um prompt como "crie uma newsletter com cinco notícias importantes" carrega uma intenção fraca demais. Sem escrever de verdade junto da ferramenta, o resultado tem aquele sabor de "GPT lero-lero" de novo. 

Você mencionou o conto que deu origem ao filme "A Chegada", do Ted Chiang. Qual a conexão entre esse trabalho e a discussão sobre intencionalidade? 

Tive o privilégio de participar de um evento com o Ted Chiang, inclusive, estive em um café da manhã na véspera, só nós dois, para debater esses conceitos. O filme trabalha exatamente essa ideia: sem intencionalidade, fica óbvio que um texto é só um texto, sem autor, sem mensagem, sem nada pensado para ser narrado. 

O conto se chama "a história da sua vida" e é baseado na hipótese de Sapir-Whorf: a estrutura da língua determina a forma como você vê o mundo. No filme, uma linguista precisa decifrar a linguagem de alienígenas para entender suas intenções, e descobre que a concepção de tempo deles não é linear.  

Essa discussão sobre até que ponto a linguagem limita o pensamento é antiga. Wittgenstein tem uma frase que abre a minha tese de doutorado: "os limites da minha linguagem são os limites do meu pensamento".

E tem até aquela brincadeira das palavras intraduzíveis, tipo "saudade", que só existiria em português. É discutível, mas a gente chama isso de lacuna linguística.  

A palavra sozinha não determina tudo, mas a estrutura gramatical é um componente importante. Muitas vezes a nossa língua deixa implícito um terceiro elemento (o contexto), que é essencial na vida real.

Dizer que "fulano é corrupto" sem dizer diante de qual legislação, em qual momento histórico, empobrece a afirmação. A gente precisa de mais estrutura para dizer o que precisa ser dito e é por isso que precisamos de bons textos, principalmente para ampliar essa estrutura. 

E como isso se conecta com o funcionamento técnico das LLMs? 

O Ted Chiang tem um artigo, publicado uns seis meses depois da explosão do ChatGPT, em que compara a LLM a um JPEG borrado da internet. Quando uma imagem JPEG ou GIF carregava devagar, ela aparecia primeiro borrada e ia ganhando definição aos poucos.  

É uma boa analogia: o dataset de treinamento gera um monte de pesos na rede neural que, na prática, é um resumo ou um caminho curto pelas possibilidades mais prováveis. Você não consegue recuperar dali toda a informação original. É um borrão da internet.  

Quando você pergunta algo, o modelo olha para esse borrão e tenta extrair uma resposta dele. Essa limitação é ainda maior do que a da própria linguagem humana que estávamos discutindo. Por isso acho fundamental pensar na IA como assistente, não como piloto principal.

Ela precisa ser copiloto, porque não tem o conhecimento total do especialista, apenas um conhecimento parcial, e com viés. 

Isso significa que a LLM nunca deve substituir a conversa humana? 

Substituir completamente a conversa humana por textos de LLM seria uma grande burrice da humanidade. O próprio Ted Chiang falou algo parecido naquele evento: existem textos que você não quer escrever (um relatório para o chefe, um e-mail para um cliente, por exemplo) e para esses, faz sentido usar IA.  

Vimos até uma apresentação do Google em que usaram o Gemini para criar 23 slides de vendas com argumentos e depois, em outro momento, usaram a mesma IA para resumir uma apresentação em três slides.  

Ficamos girando em círculos: para que criar 23 slides com IA se depois vamos resumir para o que realmente importa com IA de novo? Para esse tipo de tarefa, tudo bem usar a ferramenta.  

Mas para debates políticos, humanos, ideológicos, entre pessoas, você não quer um "limitador de lero-lero avançado" mediando a conversa. 

Onde entra a Clarice nessa equação? 

A graça da Clarice é que, em cima da LLM, a gente coloca camadas de conhecimento humano. O conhecimento de como escrever bem está compilado em manuais desde a Grécia, não é um "escrever bem" subjetivo.  

Por que uma frase curta costuma ser melhor que uma longa? Pela capacidade cognitiva do ser humano de manter o mesmo sujeito na cabeça até o fim da frase. O Hemingway escrevia sempre em frases curtas.  

Já o Saramago quase nunca usa ponto final, mas cria pausas por outros recursos. Essa é, inclusive, a genialidade dele: substituir a pontuação formal pela própria escolha das palavras. A gente tem que usar a LLM como usava um dicionário de sinônimos: ela ajuda a escrever, mas você precisa saber montar o "Lego", porque a língua é uma espécie de Lego.  

Um texto se constrói com argumentos de autoridade, exemplos, descrição, diálogo, narração. Estudamos isso para apresentar esses building blocks de um jeito que ajude a pessoa a construir a mensagem e não simplesmente a encadear palavras de forma correta. 

Você está escrevendo um livro chamado "Animal Narracional". Qual a tese central? 

A tese é que nós, seres humanos, não somos animais racionais, como se argumenta desde a Grécia e sim animais narracionais. Nossas principais decisões não são baseadas em dados, o cérebro não está otimizado para cálculo, ainda que tenhamos essa impressão.  

É como o sistema "rápido" descrito por Daniel Kahneman em "Rápido e devagar": ele responde com anedotas, analogias, respostas rápidas que já estão no mundo, no inconsciente coletivo.  

Quando alguém pergunta "você gosta disso?" e você responde na hora, é porque aquilo faz parte de uma narrativa, você provavelmente não vai parar para pensar de fato. Até escolher um carro: as pessoas fazem planilhas, mas se a decisão fosse puramente racional, ninguém nunca fecharia a compra.  

Sempre existe uma narrativa por trás: uma memória, a opinião do pai, o que se aprendeu na escola, na religião. O amor romântico, por exemplo, é uma narrativa com cerca de 200 anos, bem diferente do conceito de amor na Grécia, que tinha três palavras distintas para isso. Sucesso e meritocracia são outros exemplos de narrativas em que a gente acredita hoje. 

E qual o peso dessas narrativas na sociedade, comparado a outras formas de poder? 

A sociedade tem, essencialmente, três tipos de poder: o econômico, o da violência e o das narrativas. Tem aquelas charges do Quino, o autor da Mafalda, que sempre trazem um banqueiro representando o poder econômico, um soldado representando o poder da violência e um dono de mídia ou um padre representando o poder da narrativa.  

Hoje a sociedade funciona muito mais pelo poder da narrativa do que por outros tipos de constrangimento. Não à toa a censura sempre existiu, porque sabe-se do poder que as histórias, as palavras e as frases carregam.  

Tem uma frase atribuída a Platão e outra do Steve Jobs, separadas por mais de dois mil anos, que dizem basicamente a mesma coisa: quem domina as histórias domina a sociedade; a pessoa mais poderosa do mundo é o contador de histórias.  

Isso ficou impregnado em mim. E é isso que eu quero: usar a Clarice, que é uma ferramenta de escrita, para ajudar as pessoas a construírem narrativas melhores, porque estamos vivendo também uma crise de narrativas.

O Harari fala que o século XX foi marcado pela crise da narrativa do comunismo e do fascismo, superadas pela narrativa da social-democracia capitalista. E hoje a própria promessa de que "se você se esforçar, vai conseguir" é uma narrativa em crise no mundo. 

Como você define seu papel hoje, à frente da Clarice? 

Como somos uma startup early-stage, faço bastante coisa, inclusive tarefas operacionais. Mas meu trabalho principal é colocar todo mundo do time olhando na mesma direção, com o mesmo objetivo, usando a tecnologia.

Tenho formação em linguística computacional, uma pessoa formada em letras e computação especializada em machine learning e a responsável pelo sucesso do cliente no RH é escritora de livros.

Ou seja, todas as pessoas são apaixonadas por escrita e têm a missão de construir a ferramenta de escrita em português. Não é um editor de texto como Word ou Google Docs, é uma ferramenta com assistência nativa de IA para ajudar em tudo que a IA pode ajudar na construção do texto.

Também preciso captar recursos, levantamos com a FAPESP, por fomento, e com venture capital, mas também participo bastante da concepção de produto, conectando a experiência do usuário com o back-end. 

O que você busca em alguém para entrar no seu time? 

Tenho isso muito claro, mesmo que seja difícil de traduzir em palavras. Um dos critérios, que já ouvi de mais de um empreendedor e li em mais de um livro: se você tiver que escolher entre duas pessoas, escolha quem escreve melhor, não importa se é para marketing ou para tecnologia.  

Afinal de contas, clareza na escrita demonstra clareza de pensamento e isso é muito importante. Já que somos animais narracionais, a comunicação clara entre humanos para se alinharem em torno de um mesmo objetivo é essencial, inclusive para entender o que não está explícito na cabeça do outro.

É o que chamamos de maldição do conhecimento: uma vez que você sabe algo, é difícil lembrar como é não saber.  

Então: boa escrita, clareza de pensamento e paixão pelo que está fazendo. Não pode ser só mais um emprego. Também procuro gente sem o vício do mercado tradicional, que entenda que um desafio de uma semana é para ser resolvido em uma semana e não em três meses de reuniões.  

Bons profissionais de startup não precisam ser gerenciados, sabem gerenciar a si mesmos quando você dá um objetivo claro.

Às vezes isso aparece mais em alguém de dezenove, vinte anos do que em profissionais muito mais experientes, que muitas vezes têm mais hard skills, mas eu procuro as soft skills, o técnico se aprende com o tempo.