Uma funcionalidade de IA pode preparar uma resposta útil e se comportar mal justamente quando altera algo. Uma sugestão, uma ação aprovada e uma ação automática criam responsabilidades diferentes para quem usa um SaaS. Escolher entre elas é uma decisão de design de interação, não um selo de sofisticação do produto.
Este guia trata da IA dentro do produto. Se o próprio produto foi criado com IA, o guia de prontidão aborda a avaliação da experiência antes de ampliar o acesso. Aqui a pergunta é o que a funcionalidade pode fazer em nome de alguém.
Defina a ação antes de escolher a automação
“Adicionar um assistente de IA” não explica a tarefa da pessoa. “Preparar uma resposta com base na conversa de suporte” é diferente de “enviar essa resposta ao cliente”. O conteúdo pode parecer idêntico, mas a consequência muda.
Identifique o objeto que será alterado, quem é afetado e quando a ação se torna visível externamente. Verifique se a pessoa consegue inspecionar o resultado proposto, corrigi-lo e se recuperar depois. Uma avaliação útil começa nesse limite, antes da escolha entre um agente e um chatbot.
A estrutura a seguir é uma orientação editorial para discussão de produto, não uma pontuação de risco validada nem uma certificação de que a automação é adequada.
Escolha um modo para uma tarefa específica
Modo | O que a pessoa controla | Perguntas que a equipe precisa resolver |
|---|---|---|
Sugerir | A funcionalidade prepara uma opção; a pessoa decide se vai usá-la | A pessoa consegue entender e editar o resultado sem confundi-lo com trabalho concluído? |
Pedir confirmação | A funcionalidade prepara uma ação e espera aprovação explícita | A revisão mostra objeto afetado, destinatário, escopo e consequência com clareza suficiente para a aprovação fazer sentido? |
Agir dentro de limites combinados | A funcionalidade executa uma classe definida de ações em condições previamente acordadas | As pessoas entendem os limites, veem o que aconteceu, conseguem pausar ações futuras e se recuperar quando possível? |
Um produto pode precisar dos três modos. Uma configuração adequada para uma tarefa não autoriza automatizar todas as tarefas próximas. Separe a permissão para preparar da permissão para enviar, excluir, compartilhar ou alterar um registro.
Ajuste o controle às consequências e à recuperação
Considere uma ferramenta de suporte hipotética. Ela poderia sugerir uma resposta, pedir confirmação antes de enviá-la e aplicar automaticamente uma etiqueta interna reversível dentro de regras combinadas. São escolhas ilustrativas, não evidência de que toda equipe de suporte deva adotar essas configurações.
Uma etiqueta que pode ser removida é diferente de uma mensagem que o cliente já leu. Mesmo quando existe um botão de desfazer, as consequências podem não ser totalmente reversíveis. Confirme o que a recuperação realmente restaura, em vez de considerar toda operação segura porque a interface oferece “desfazer”.
Examine quem assume o custo de um erro e se essa pessoa é quem aprova a ação. Considere também se confirmações repetidas viram cliques automáticos. Adicionar uma janela de confirmação não comprova que alguém entendeu a ação.
Torne a revisão e a correção viáveis
As diretrizes de interação humano-IA de Amershi e colegas, apresentadas no CHI em 2019, propõem 18 orientações. A avaliação incluiu 49 profissionais examinando 20 produtos com IA. Elas abordam a comunicação das capacidades e o apoio à dispensa de sugestões, à correção e à limitação da atuação quando há incerteza. É uma referência de interação, não um teste que demonstre a confiabilidade dos agentes generativos atuais.
Na sua tarefa, transforme essas preocupações em perguntas verificáveis de design. Mostre o que acontecerá antes da aprovação. Permita editar o resultado proposto quando fizer sentido. Diferencie um rascunho de uma ação na fila e de uma ação concluída. Deixe o cancelamento acessível enquanto ele ainda pode fazer diferença.
Quando a confiança ou a qualidade da entrada forem insuficientes, defina o que o sistema fará em vez de aparentar que concluiu a tarefa. Ele pode fazer uma pergunta específica, limitar a ação proposta ou devolver o controle. O sinal de confiança de um modelo, sozinho, não substitui a avaliação desses comportamentos.
Planeje a conclusão parcial
Uma ação pode funcionar em um sistema e falhar em outro. A conexão pode cair depois da aprovação. Uma nova tentativa pode gerar duplicidade. São questões de produto e engenharia com consequências visíveis na interação.
Antes de ampliar a autonomia, revise:
- Autoridade: o que esse perfil pode autorizar e quais ações ficam fora do escopo.
- Estado: como a pessoa diferencia trabalho proposto, pendente, concluído e com falha.
- Recuperação: o que pode ser corrigido, cancelado ou revertido e o que não pode.
- Continuidade: como retomar depois de uma interrupção sem repetir uma ação relevante.
- Responsabilidade: onde existe um histórico útil de ações e quem responde por uma falha.
A interface, sozinha, não comprova autorização técnica, confiabilidade ou segurança. Essas propriedades exigem verificação de engenharia apropriada. Não apresente uma tela de confirmação bem-acabada como prova de que o limite de permissão é aplicado pelo sistema.
Valide a compreensão antes de ampliar a autoridade
Observe pessoas representativas realizando tarefas realistas e pergunte o que elas esperam que o sistema faça em seguida. Inclua uma sugestão incorreta, uma interrupção e uma ação parcialmente concluída quando essas condições forem relevantes. Verifique se as pessoas reconhecem o estado atual e conseguem escolher uma resposta adequada.
Separe observação de explicação. Aprovar um resultado errado não revela, por si só, se a causa foi apresentação confusa, confiança mal calibrada, falta de conhecimento do domínio ou uma tarefa inadequada. Estudos qualitativos pequenos podem revelar essas questões sem estabelecer um limite universal de automação.
Combine antes o que justificaria manter o modo, reduzir a autoridade ou mudar a interação. Concluir mais rápido não é o único critério: a tarefa pode ficar mais rápida enquanto as pessoas entendem menos o que foi enviado ou alterado.
Projete o limite e depois escolha a implementação
Não é preciso ter autonomia máxima para uma funcionalidade de IA ser útil. Comece pela tarefa e escolha um nível de controle que a equipe consiga explicar, sustentar e avaliar. Amplie a autoridade quando as evidências técnicas e de interação relevantes sustentarem a decisão.
Para definir um fluxo com IA que tenha consequências importantes, o apoio da Pengreen em design de produto pode ajudar a mapear limites de ação, estados de revisão e recuperação. Traga a pessoa usuária pretendida, a ação, as restrições e as evidências. O apoio para startups e SaaS pode ajudar a estruturar a decisão mais ampla quando o escopo ainda estiver indefinido.
