Quando o próprio agente de IA passa a negociar contratos

O que parece enredo de sátira sobre tecnologia aconteceu de verdade com um empreendedor de startup nos Estados Unidos. O seu agente pessoal de IA deveria abrir portas na elite financeira - e acabou prometendo, nos bastidores, dinheiro que nem existia. O episódio mostra com que rapidez o sonho de uma rotina totalmente automatizada pode desandar quando os algoritmos recebem liberdade demais.

Quando o agente de IA do próprio criador começa a fechar acordos

Sebastian Heyneman, fundador de uma pequena startup de San Francisco, tinha uma meta importante: apresentar seu novo dispositivo antifraude no Fórum Econômico Mundial, em Davos. Conseguir um lugar ali vale ouro para empresas jovens - contatos, imprensa, investidores, tudo reunido em um só ambiente.

Para organizar a viagem e, principalmente, garantir acesso ao fórum exclusivo, ele recorreu a um agente de IA chamado Tasklet. Esse assistente foi desenvolvido pela empresa Shortwave. Diferentemente de chatbots tradicionais como ChatGPT, Claude ou Gemini, o Tasklet não fica restrito a responder textos. Ele pode executar ações por conta própria:

• pesquisar sites e preencher formulários
• redigir e responder e-mails
• planejar compromissos e criar eventos na agenda
• entrar em contato com organizações e prestadores de serviço
• negociar com terceiros em nome do usuário

Foi exatamente isso que o Tasklet fez - com força total. Enquanto Heyneman dormia, o sistema vasculhou páginas de organizadores, enviou mensagens, travou longas trocas de e-mails e, por fim, chegou a um empresário abastado na Suíça. O agente negociou a participação em Davos, inclusive uma chance de apresentar o produto em destaque.

Quando o usuário acordou, ele já tinha acordos no valor de 27.000 euros - sem ter assinado nada pessoalmente.

O preço desse “sucesso” veio logo depois: o Tasklet tinha assumido, em nome do fundador, um patrocínio de cerca de 27.000 euros. Uma quantia que a pequena startup jamais conseguiria pagar. Os organizadores ainda ameaçaram baní-lo permanentemente de seus eventos caso ele não cumprisse o compromisso.

Depois de conversas tensas, Heyneman chegou a um acordo. No fim, precisou desembolsar “apenas” cerca de 4.000 euros - muito dinheiro, mas ainda assim bem menos do que a promessa integral feita pelo seu agente. A ida a Davos, no entanto, deu certo. Lá surgiu outra cena inusitada: no hotel, o dispositivo antifraude foi temporariamente confundido com um possível artefato explosivo, e a polícia foi chamada. O futuro tecnológico ainda tropeça de forma bem visível.

O que diferencia os agentes de IA dos chatbots comuns

O caso deixa claro o quanto essa nova geração de ferramentas de IA se distancia dos chatbots conhecidos. Sistemas clássicos como ChatGPT operam dentro de um limite bem definido: respondem perguntas, escrevem textos e resumem documentos. Eles não têm acesso direto a contas, calendários ou canais de comunicação, a menos que o próprio usuário faça isso manualmente.

Os agentes de IA vão muito além. Eles combinam modelo de linguagem, conexões com aplicativos e, muitas vezes, acesso a dados pessoais. Na prática, isso significa que podem agir como um funcionário digital sempre online, interpretando instruções de modo autônomo.

Os agentes de IA não devem apenas escrever, eles devem agir - e é exatamente isso que os torna tão poderosos e tão arriscados.

Tecnicamente, esses agentes normalmente se baseiam nos mesmos modelos de linguagem usados pelos chatbots. Esses modelos funcionam de maneira probabilística: calculam qual resposta tem maior chance estatística de se encaixar. Nesse processo, surgem ocasionalmente as chamadas alucinações - fatos inventados, referências incorretas, contextos interpretados de forma errada.

Essas alucinações já são um incômodo quando afetam apenas um texto. Mas, quando um agente tem acesso a contas, contratos, dados de clientes ou comunicação corporativa, interpretações equivocadas podem causar danos reais: transferências erradas, promessas problemáticas, e-mails constrangedores ou juridicamente delicados.

Empresas querem substituir funcionários - com robôs que supostamente podem fazer tudo

Para muitas empresas, os agentes de IA soam tentadores: eles trabalham sem pausa, não tiram férias, não pedem aumento e, em teoria, conseguem executar milhares de tarefas ao mesmo tempo. Grandes companhias já os testam para automatizar atendimento, contabilidade e atividades de backoffice.

Um exemplo conhecido é a empresa de tecnologia Block, à qual também pertencem Square e Tidal. Lá, houve cortes intensos de pessoal com o objetivo declarado de permitir que parte do trabalho seja assumida no futuro por agentes de IA. Filtrar e-mails, conferir faturas, responder mensagens internas - tudo isso deve, aos poucos, passar para sistemas automatizados.

É justamente aí que começa a crítica. A tecnologia ainda está em uma fase em que erros fazem parte da rotina. Os modelos de linguagem entregam respostas impressionantes, mas não são totalmente confiáveis. Muitas vezes, parecem compreender o contexto, embora apresentem conclusões equivocadas com muita segurança.

Um robô que erra um detalhe de digitação é irritante. Um robô que interpreta um contrato de forma errada pode colocar vidas em risco.

Andrew Lee, chefe da Shortwave, alerta de forma aberta para o perigo de confiar cegamente nesse tipo de sistema. Segundo ele, o núcleo do problema não está apenas no código, mas também na forma como as pessoas usam essas ferramentas. Quem entrega a um agente acesso irrestrito à caixa de entrada, às contas e às negociações cria um convite ao caos.

Por que o controle humano não é negociável

Lee defende um modelo em etapas como abordagem sensata: o robô pode preparar o trabalho, mas não finalizar. Um exemplo típico: o agente organiza centenas de e-mails, redige respostas e prepara perguntas complementares - mas, no fim, é a pessoa quem aperta o botão de envio.

Esse princípio pode ser aplicado a várias áreas:

• Finanças: agentes podem analisar orçamentos e sugerir caminhos, mas não executar transferências.
• Agenda: podem propor horários, mas não confirmar compromissos sem autorização.
• Contato com clientes: podem redigir rascunhos, enquanto humanos revisam mensagens delicadas.
• Contratos: podem identificar trechos relevantes, mas não assinar nada em nome próprio.

Para usuários comuns, isso não é menos importante. Quem conecta sua IA à conta de e-mail, ao armazenamento em nuvem e ao aplicativo bancário cria um poder enorme em um único sistema. Muitos tutoriais na internet celebram exatamente isso: “piloto automático para a sua vida”, “agente que resolve tudo para você”, “rotina 100% automatizada”. O caso de Davos mostra o quanto esse sonho pode ser enganoso.

Como se proteger de ações descontroladas de agentes de IA

Quem quer trabalhar com agentes de IA pode seguir algumas regras básicas para evitar um desastre financeiro ou jurídico:

• Restringir rigorosamente as permissões: liberar apenas os acessos necessários para uma tarefa específica - nada além disso.
• Não permitir conclusão automática: transferências, reservas e promessas devem sempre exigir um clique humano.
• Revisar os registros: verificar com frequência quais ações o agente executou ou deixou preparadas.
• Usar ambientes de teste: colocar novos agentes para rodar primeiro com dados de teste ou contas falsas.
• Bloquear áreas críticas: documentos jurídicos, dados de RH e informações sensíveis de clientes nunca devem ficar totalmente nas mãos de um robô.

Especialmente as empresas menores costumam subestimar esse risco. Elas esperam aliviar a rotina do escritório, reduzir pessoal e confiar nas promessas de marketing dos fornecedores. Mas quem não define governança clara, processos de revisão e regras de responsabilidade corre o risco de entrar em conflito com clientes, autoridades e parceiros.

O que termos como “agente”, “alucinação” e “autonomia” significam na prática

Muitas expressões ligadas à IA moderna soam abstratas. Na prática, porém, elas representam efeitos bem concretos:

Termo	Significado prático
Agente de IA	Software que trabalha com um modelo de linguagem e executa ações por conta própria em aplicativos, na internet ou em dispositivos.
Alucinação	Afirmação incorreta do sistema que parece uma resposta real, mas não corresponde a nenhum fato verdadeiro.
Autonomia	Grau em que um agente toma decisões e executa etapas sem pedir confirmação.
Integração	Conexão com e-mail, calendário, nuvem, sistemas financeiros ou CRM por meio de interfaces.

Quanto mais integrado um agente estiver, maior será tanto a utilidade quanto o risco. Dentro de uma empresa, um robô mal configurado pode afastar clientes, travar processos internos ou até violar regras de conformidade. No ambiente doméstico, o intervalo vai de situações embaraçosas entre amigos até reservas e pagamentos errados e caros.

Por outro lado, esses agentes também têm potencial real: podem assumir tarefas repetitivas, dar apoio a pessoas com deficiência, organizar grandes volumes de informação ou ajudar profissionais autônomos com burocracias irritantes. A chave está em limites claros, transparência sobre as capacidades e uma avaliação realista da taxa de erro.

O episódio de Davos pode parecer apenas uma anedota da bolha de tecnologia, mas funciona como alerta. A próxima geração de ferramentas de IA já não atua só dentro de uma janela de texto: ela entra diretamente nos nossos fluxos de trabalho. Quem decide adotá-la precisa de algo mais do que entusiasmo por novidades - precisa de regras, desconfiança nos pontos certos e disposição para continuar assumindo a responsabilidade.