A IA pode fazer. Mas ela deveria?

Quanto mais eu trabalho com inteligência artificial, menos essa pergunta me parece filosófica.

Ela está virando uma pergunta de produto, de processo, de gestão e, principalmente, de responsabilidade.

Durante muito tempo, a discussão em torno da IA esteve concentrada em uma questão:

“Ela consegue fazer isso?”

Hoje, em cada vez mais situações, a resposta é sim.

Ela consegue escrever código.
Consegue analisar documentos.
Consegue criar interfaces.
Consegue produzir imagens.
Consegue organizar processos.
Consegue resumir reuniões.
Consegue responder clientes.
Consegue classificar candidatos.
Consegue revisar contratos.
Consegue preparar apresentações.
Consegue tomar decisões baseadas em regras.

A lista cresce todos os meses.

E talvez seja justamente por isso que a pergunta mais importante esteja mudando.

O desafio já não é apenas descobrir o que a IA consegue fazer.

É decidir o que deveria ser delegado a ela.

Capacidade técnica não é critério suficiente

Eu uso IA diariamente em processos de desenvolvimento, design, pesquisa, documentação, prototipação e resolução de problemas.

Ela me permite fazer algumas coisas de uma maneira que seria difícil imaginar poucos anos atrás.

Consigo explorar alternativas mais rapidamente.

Investigar problemas com mais profundidade.

Automatizar etapas operacionais.

Testar ideias.

Organizar grandes volumes de contexto.

Reduzir o tempo gasto em tarefas repetitivas.

Tudo isso é extremamente valioso.

Mas justamente por usar IA com tanta frequência, uma distinção começou a ficar cada vez mais clara para mim:

ser capaz de executar uma tarefa não significa necessariamente ser o agente certo para executá-la.

No desenvolvimento, gerar código não é o mesmo que desenvolver software.

Uma IA pode escrever uma função tecnicamente correta sem compreender totalmente as consequências arquiteturais daquela decisão.

Pode corrigir um erro e criar outro em uma parte distante do sistema.

Pode produzir uma solução que funciona hoje, mas aumenta a complexidade do projeto amanhã.

É por isso que continuo precisando revisar, testar, contextualizar e tomar decisões.

No design acontece algo parecido.

Gerar uma interface não é o mesmo que fazer direção de produto.

Uma interface pode ser visualmente bonita e ainda assim resolver o problema errado.

Pode seguir boas práticas e mesmo assim ignorar o contexto de quem vai utilizá-la.

Pode parecer convincente sem ter qualquer coerência com o restante da experiência.

A IA consegue executar.

Mas alguém ainda precisa entender por que aquilo está sendo feito.

E isso não vale apenas para tecnologia.

Automatizar uma interação não significa melhorá-la

Existe uma diferença enorme entre:

remover trabalho repetitivo de uma pessoa

e

remover a pessoa de um momento em que ela fazia diferença.

Imagine alguns exemplos.

Uma IA provavelmente consegue redigir o feedback de desempenho de um funcionário.

Consegue preparar uma resposta para um cliente irritado.

Consegue analisar centenas de candidatos e selecionar os mais compatíveis com uma vaga.

Consegue conduzir grande parte de um onboarding.

Consegue preparar uma mensagem de desligamento.

Consegue responder alguém que está passando por uma situação delicada.

Consegue fazer tudo isso de maneira rápida, consistente e, em muitos casos, com uma qualidade textual excelente.

Mas existe algo importante nesses processos que não aparece facilmente em uma métrica de produtividade.

Às vezes, o processo não existe apenas para transmitir uma informação.

Ele existe para demonstrar atenção.

Para ouvir.

Para perceber algo que não estava no formulário.

Para interpretar uma hesitação.

Para lidar com uma exceção.

Para assumir responsabilidade por uma decisão.

Para construir confiança.

E essas dimensões são muito fáceis de perder quando a única pergunta feita é:

“Quanto tempo conseguimos economizar?”

O melhor lugar para a IA muitas vezes é nos bastidores

Acredito que existe uma forma mais interessante de pensar em automação.

Em vez de perguntar:

“Como substituímos essa pessoa com IA?”

podemos perguntar:

“Como usamos IA para que essa pessoa consiga fazer melhor aquilo que realmente exige uma pessoa?”

Essa mudança parece pequena, mas muda completamente o desenho de um processo.

Uma IA pode analisar o histórico de um cliente antes de uma reunião.

Mas talvez seja melhor que uma pessoa faça a reunião.

Pode organizar todas as informações relevantes para uma avaliação de desempenho.

Mas talvez o gestor ainda deva conduzir a conversa.

Pode identificar padrões em centenas de currículos.

Mas talvez alguém deva avaliar candidatos que chegaram às etapas decisivas.

Pode resumir dezenas de mensagens, documentos ou chamados.

Mas talvez uma pessoa deva decidir o que realmente importa.

Pode preparar alternativas.

Pode executar tarefas operacionais.

Pode detectar inconsistências.

Pode lembrar prazos.

Pode sugerir caminhos.

Pode reduzir drasticamente a quantidade de trabalho burocrático.

Esse talvez seja um dos usos mais interessantes da tecnologia:

usar IA para remover o que nos impede de sermos humanos, em vez de remover o humano do processo.

Quando ela funciona nos bastidores, muitas vezes sobra mais tempo para conversa, criatividade, julgamento e atenção.

E isso pode produzir experiências melhores justamente porque existe automação.

Nem toda fricção é desperdício

Existe um princípio muito forte em produto e operações: reduzir fricção.

Normalmente faz sentido.

Menos etapas.

Menos cliques.

Menos espera.

Menos tarefas manuais.

Menos burocracia.

Mas talvez tenhamos transformado “fricção” em uma palavra negativa demais.

Porque nem toda fricção existe por ineficiência.

Algumas existem porque há uma decisão importante acontecendo.

Porque duas pessoas precisam conversar.

Porque alguém precisa explicar uma situação.

Porque é necessário compreender contexto antes de agir.

Porque uma escolha precisa ser deliberada.

Porque aquela decisão tem consequências.

Ao automatizar processos, existe o risco de remover não apenas a parte burocrática, mas também o momento em que alguém deveria parar e pensar.

Uma aprovação automática pode ser mais rápida.

Mas talvez determinada aprovação exista justamente para que alguém assuma responsabilidade.

Uma conversa automatizada pode ser mais barata.

Mas talvez aquela conversa seja um dos principais pontos de construção de confiança de uma empresa.

Um processo completamente autônomo pode parecer sofisticado.

Mas talvez seja pior para quem está do outro lado.

Por isso tenho pensado muito em uma frase:

nem toda fricção é desperdício.

Às vezes ela é conversa.

Contexto.

Cuidado.

Responsabilidade.

Presença.

Automação deveria reduzir esforço, não reduzir critério

Essa é uma regra mental que passei a aplicar cada vez mais quando penso em sistemas assistidos por IA.

Automação deveria reduzir esforço, não reduzir critério.

Se uma decisão tem consequências reais para outra pessoa, alguém deveria ser capaz de entendê-la.

Se um sistema recomenda uma ação importante, alguém deveria saber por que aquela recomendação existe.

Se um erro pode causar um impacto significativo, deveria existir uma pessoa responsável pela decisão final.

Isso não significa que todo processo precise permanecer manual.

Seria igualmente ruim ignorar as possibilidades da tecnologia por medo.

A questão não é escolher entre processos totalmente humanos ou totalmente automatizados.

O espaço mais interessante está no meio.

Sistemas em que a IA amplia a capacidade das pessoas.

Em que tarefas mecânicas são automatizadas, mas decisões permanecem compreensíveis.

Em que algoritmos ajudam a priorizar informações, mas não escondem como chegaram às suas conclusões.

Em que automação acelera processos sem apagar a responsabilidade.

Esse tipo de arquitetura talvez seja menos impressionante em uma demonstração.

Mas tende a ser muito mais sustentável na prática.

Existe também um problema de escala

Uma decisão ruim tomada por uma pessoa afeta uma quantidade limitada de casos.

Uma decisão ruim automatizada pode ser aplicada milhares ou milhões de vezes.

Esse é um dos paradoxos da automação.

Quanto mais eficiente um sistema se torna, maior também pode ser a velocidade com que ele replica seus erros.

Um processo humano pode ser inconsistente.

Mas um processo automatizado mal projetado pode ser consistentemente errado.

Por isso, sistemas de IA precisam de algo que às vezes é esquecido no entusiasmo da implementação:

mecanismos de contestação.

Pessoas precisam conseguir questionar decisões.

Casos excepcionais precisam ter caminhos alternativos.

Resultados precisam poder ser revisados.

Modelos precisam ser monitorados.

Regras precisam ser atualizadas.

E alguém precisa responder pelo comportamento do sistema.

Automação sem governança é apenas velocidade aplicada a uma decisão que talvez nunca tenha sido suficientemente discutida.

O limite não é tecnológico

Existe uma tendência natural de imaginar que os limites da IA serão definidos pela tecnologia.

Enquanto ela não conseguir fazer determinada coisa, humanos continuarão necessários.

Quando conseguir, serão substituídos.

Mas talvez essa seja uma visão limitada.

Alguns limites não são tecnológicos.

São sociais.

Éticos.

Organizacionais.

Culturais.

Humanos.

Mesmo que uma IA seja capaz de conduzir perfeitamente determinada interação, ainda podemos decidir que queremos uma pessoa naquele momento.

Não porque a pessoa seja mais eficiente.

Mas porque presença também possui valor.

Um professor não serve apenas para transmitir informação.

Um médico não serve apenas para interpretar exames.

Um líder não serve apenas para comunicar decisões.

Um designer não serve apenas para desenhar telas.

Um desenvolvedor não serve apenas para produzir código.

Existem relações, responsabilidades e julgamentos envolvidos.

Nem todos eles deveriam ser reduzidos a uma tarefa.

Estamos entrando em uma fase mais interessante da IA

Talvez os primeiros anos desta nova geração de IA tenham sido definidos pela surpresa.

“Olha o que ela consegue fazer.”

Depois veio a fase da integração.

“Como colocamos isso nos nossos produtos?”

Agora acredito que estamos entrando em uma terceira fase.

Uma fase em que precisaremos aprender a dizer não para algumas automações.

Não por incapacidade técnica.

Mas por escolha.

Empresas precisarão decidir onde manter pessoas.

Produtos precisarão definir quando um sistema deve pedir intervenção humana.

Equipes precisarão entender quais responsabilidades não podem ser terceirizadas para um modelo.

Profissionais precisarão aprender não apenas a usar IA, mas também a identificar quando não usá-la.

Esse talvez seja um sinal de maturidade tecnológica.

Não implementar uma tecnologia apenas porque ela está disponível.

Mas entender suficientemente bem suas capacidades para escolher onde ela realmente melhora alguma coisa.

Durante algum tempo, a principal pergunta foi:

“Será que a IA consegue fazer isso?”

Cada vez mais, a resposta será sim.

A pergunta realmente interessante começa depois:

“Mesmo podendo, faz sentido que seja ela a fazer?”

Talvez as melhores empresas dos próximos anos não sejam aquelas que conseguirem automatizar tudo.

Serão aquelas que souberem distinguir o que deveria ser automatizado daquilo que vale a pena continuar sendo humano.