IA no fluxo de design: onde ela ajuda e onde atrapalha

IA corta o custo de produção no fluxo de design e deixa o custo da decisão onde estava. A etapa que gera volume fica mais rápida. A etapa que escolhe o que vai ao ar continua precisando de uma pessoa que responda pela escolha. O erro comum corre para o outro lado: usar IA onde era exigido julgamento e fazer na mão o que era mecânico.

O que muda quando a IA entra no fluxo

Duas coisas ficam mais baratas, e uma não muda.

O primeiro é o custo do primeiro rascunho. Opções de nome, direção de layout, um parágrafo de texto de ajuda ou um esboço de spec chegam em segundos. Isso aumenta o número de opções que o time consegue olhar de uma vez.

O segundo é o custo da revisão. Todo rascunho precisa ser lido por alguém capaz de separar afirmação correta de frase fluente. Essa revisão vira o gargalo, então ela precisa de uma linha própria no orçamento.

O que continua igual é o formato do fluxo. Descoberta ainda precisa de uma pergunta que uma pessoa escolheu fazer. Priorização ainda precisa de um dono do trade-off. Julgamento visual ainda precisa de um olho que conhece este produto.

Quais etapas são produção e quais são decisão

Separe o fluxo em duas colunas antes de abrir qualquer ferramenta.

Produção transforma uma decisão já tomada em artefato:

Opções de nome para um componente ou uma tela
Primeiro rascunho de spec, nota de release ou artigo de ajuda
Texto reescrito para o tamanho fixo de outro canal
Conversão de formato, preenchimento de tabela, rascunho de tradução
Código repetitivo, dado de teste, conteúdo de exemplo

Decisão escolhe o que deve existir:

Qual problema de usuário vale resolver agora
Qual de dois designs é melhor, e por quê
Qual achado de pesquisa é real e qual é ruído
O que o produto vai se recusar a fazer
Quem paga quando a coisa quebra

Existe ainda um terceiro grupo, que tanto faz: agendamento, higiene de arquivo, relatório de status. Automatizar esse grupo é barato e chato, e não diz nada sobre o seu critério.

A IA é forte na primeira coluna e fraca na segunda. Quase tudo neste texto sai dessa diferença.

Onde a IA acelera de verdade

O ganho é real em cinco pontos, e cada um tem um mecanismo por trás.

Rascunho para reagir. A página em branco custa mais que um rascunho ruim. O modelo resolve a página em branco, e o time já começa discutindo conteúdo.

Volume de variantes. Dez opções de título em um minuto só servem se existir um jeito de escolher. A ferramenta entrega volume e você entrega o filtro.

Formato rígido. O Nielsen Norman Group descreve o uso próprio de IA na redação (em inglês) para clareza, formatação e crítica, com o julgamento editorial na mão de pessoas.

Primeira passada de tradução. Um rascunho para editar vence um arquivo vazio, e nunca substitui um leitor nativo.

Explicação sob demanda. Uma spec densa vira resumo para outro time, o que encurta a reunião.

O padrão é o mesmo nos cinco. A IA encurta a distância entre uma decisão que você já tomou e o artefato que carrega essa decisão.

Onde a IA atrapalha

O maior risco não é a resposta errada. É a resposta bem escrita.

O modelo produz um parágrafo bem formado sobre uma necessidade de usuário que ele nunca observou. O texto soa confiante, e um revisor cansado aceita o que soa confiante.

Vale conhecer quatro falhas.

Síntese de pesquisa qualitativa. O modelo resume o que você cola. O resumo guarda a média e descarta a contradição, a pausa e o assunto que o participante evitou. Isso costuma ser justamente o achado.

Decisão de prioridade. O modelo ordena opções por um critério que você deu. Ele não responde pela consequência da ordem.

Julgamento estético. O modelo descreve um estilo e gera variações dele. Ele não sabe se a tela parece este produto ou parece um template.

Números. O modelo produz um valor plausível sem fonte atrás. Percentual sem fonte é enfeite, então este texto explica como as coisas funcionam em vez de citar taxa.

Existe uma segunda armadilha. O Nielsen Norman Group registra que uma saída é exemplo, não avaliação (em inglês), porque o sistema é não determinístico. O mesmo prompt pode dar uma resposta melhor e uma pior. Um teste de uma rodada só diz algo sobre aquela rodada. Avaliar saída de IA mostra como montar essa avaliação, e IA na síntese de pesquisa aplica o mesmo cuidado à pesquisa.

O que não pode sair do controle humano

Algumas etapas ficam com uma pessoa. Não por falta de capacidade da ferramenta, mas porque alguém precisa responder por elas.

Dado que identifica usuário, e tudo derivado dele.
Informação sensível: saúde, dinheiro, posição jurídica, credencial, menor de idade.
Qualquer decisão que mude o resultado de alguém, como uma aprovação, uma recusa, um preço ou um bloqueio.
Publicação com nome. O Nielsen Norman Group afirma a posição sem rodeio (em inglês): a IA pode ajudar a escrever um artigo, mas não pode assinar por ele.
A linha de divulgação. Onde a regra exige rótulo, aplicar o rótulo é trabalho humano.

A Usage Policy da Anthropic (em inglês) desenha a mesma fronteira pelo lado do fornecedor. Ela separa padrões universais de casos de uso de alto risco voltados ao consumidor.

Os princípios de IA do Google (em inglês) acrescentam um compromisso público à mesma fronteira. A página nomeia supervisão humana, segurança, privacidade e justiça como obrigações, não como recursos.

O guidebook do PAIR, do Google, acrescenta a visão de produto. O capítulo sobre erros do People + AI Guidebook (em inglês) pede que o time defina o que conta como falha e ofereça um caminho de saída ao usuário.

Como revisar o que a IA produziu

Peça a fonte de cada afirmação factual. Sem fonte, sem afirmação.
Confira cada número em um documento primário, nunca na resposta anterior do próprio modelo.
Rode o mesmo prompt três vezes e compare as saídas. A diferença mostra onde o sistema está inseguro.
Leia o texto como argumento. Anote o que ele afirma e o que provaria que ele está errado.
Teste a saída no caso limite que você conhece melhor. É ali que a falha aparece primeiro.
Orce a revisão como tarefa própria. Passar o olho não é revisar.
Registre quem aprovou a versão final.

Como decidir o que automatizar sem perder o critério

Automatize a etapa cujo teste de aceite você escreve em uma frase. Se você não consegue escrever essa frase, a etapa ainda precisa de uma pessoa.
Automatize a etapa que se repete com o mesmo formato de entrada. Variação na entrada é o sinal para manter um humano no circuito.
Nunca automatize a etapa que decide para que servem as outras.
Mantenha a decisão visível depois da automação. Quando a escolha some dentro de uma ferramenta, você perdeu o critério, não o trabalho.
Revise quando o modelo mudar. Uma versão nova desloca a distribuição das saídas, e o teste antigo pode não medir mais nada.
Trate cada volta atrás como dado. O momento em que você desfaz uma decisão automatizada é o momento em que a fronteira estava no lugar errado.

O Nielsen Norman Group documenta pesquisadores que automatizaram recrutamento, agendamento e preparação de dados (em inglês). A regra deles é rodar em lotes pequenos, para que uma pessoa ainda revise o mix de participantes.

Onde as fontes divergem

Dois artigos do NN/g apontam para lados diferentes sobre quem define o método. O artigo de operações de pesquisa (em inglês) coloca o time de operações no comando: analisar o fluxo, pilotar a ferramenta com um grupo pequeno e depois sustentar a adoção. O artigo de processo editorial (em inglês) recusa esse movimento, porque o NN/g não prescreve como o autor deve escrever ou pensar.

Os dois concordam na fronteira que importa. A ferramenta pode contribuir com palavras, e uma pessoa nomeada responde pelo que vai ao ar. O artigo de avaliação (em inglês) acrescenta a mesma regra pelo lado da medição: uma rodada mostra que o sistema faz a tarefa uma vez, não que ele a faz com confiança.

Uma semana de trabalho nisso

Escolha uma etapa de produção e uma de decisão no seu fluxo, e rotule as duas.
Entregue a etapa de produção para uma ferramenta, com teste de aceite escrito.
Mantenha a etapa de decisão em uma sala com dono nomeado.
Some as horas de revisão ao prazo antes de começar o trabalho.

Depois escreva a fronteira. Uma regra que você aponta sobrevive a uma ferramenta nova e a uma pessoa nova.