Salesforce lança Agent Kill Switch para interromper agentes de IA fora de controle sem derrubar todo o sistema

Salesforce lança Agent Kill Switch para aumentar segurança de agentes de IA

A Salesforce disponibilizou para todos os clientes o Agent Kill Switch, recurso criado para interromper rapidamente agentes de inteligência artificial que apresentem comportamentos inesperados, falhas operacionais ou riscos de segurança.

A ferramenta faz parte do Agent Fabric e funciona por meio do Omni Gateway, permitindo que administradores contenham um problema específico sem precisar desligar todos os agentes que operam no mesmo ambiente.

A proposta responde a um dos principais desafios da IA agêntica nas empresas: como interromper rapidamente um agente autônomo quando ele começa a executar ações indesejadas.

O que é o Agent Kill Switch da Salesforce?

O Agent Kill Switch é um mecanismo de emergência para agentes de IA.

A ferramenta permite que equipes de tecnologia e segurança interrompam a execução de um agente quando identificam comportamentos anormais.

Isso pode acontecer, por exemplo, quando um agente entra em um loop de chamadas, consome tokens excessivamente ou deixa de seguir as instruções definidas pela organização.

Qual problema o Agent Kill Switch resolve?

Em ambientes com diversos agentes funcionando simultaneamente, uma falha individual não deveria obrigar a empresa a interromper toda a operação.

Sem um mecanismo de isolamento, desligar o ambiente completo pode afetar agentes que continuam funcionando normalmente.

O Agent Kill Switch busca resolver justamente esse problema.

Salesforce permite interromper IA em diferentes níveis

Um dos principais diferenciais da ferramenta é a possibilidade de escolher qual parte da operação deve ser interrompida.

A Salesforce permite aplicar a intervenção em quatro níveis.

Uma única requisição

Quando apenas uma chamada apresenta problema, a empresa pode interromper somente aquela execução.

Isso reduz o impacto sobre outras atividades do agente.

Uma sessão específica

Se o comportamento problemático estiver limitado a uma conversa ou fluxo específico, apenas aquela sessão pode ser bloqueada.

Uma instância do agente

Quando o problema está diretamente relacionado a determinado agente, a instância pode ser colocada em quarentena sem afetar os demais.

Todo o ambiente

Em situações mais graves, também é possível interromper agentes em escala mais ampla.

Controle granular reduz impacto de incidentes

Essa estrutura permite adequar a resposta à gravidade do problema.

Em vez de tratar qualquer incidente como uma emergência geral, a organização pode aplicar uma intervenção proporcional.

O que é o Hard Stop?

O Hard Stop é utilizado quando esperar pela conclusão de uma tarefa pode aumentar o risco.

Ao ser acionado, o recurso interrompe imediatamente o tráfego do agente.

Isso inclui a comunicação com o Model Proxy e outros agentes conectados à rede.

Agente fica isolado de toda a infraestrutura

O bloqueio não ocorre apenas em uma conexão específica.

Quando uma instância entra em quarentena, a restrição é aplicada nos diferentes proxies utilizados pelo sistema.

Isso impede que o agente encontre uma rota alternativa para continuar operando.

Tentativas automáticas também são interrompidas

Durante a quarentena, ficam bloqueados elementos como:

• rotas alternativas de proxy;
• chamadas do agente;
• comunicação com outros agentes;
• instruções armazenadas em cache;
• tentativas automáticas de reconexão.

Isolamento reduz risco de propagação

Em arquiteturas de IA multiagente, diferentes sistemas podem trocar informações e executar tarefas em conjunto.

Por isso, impedir que um agente comprometido continue se comunicando com a rede é uma camada importante de segurança.

Agent Kill Switch permite restaurar agentes

Toda intervenção pode ser revertida por meio do comando Restore.

Segundo a Salesforce, o agente retorna ao estado que possuía antes da interrupção.

Isso reduz o custo operacional de agir preventivamente.

Empresas podem interromper primeiro e investigar depois

Um dos desafios na resposta a incidentes é decidir rapidamente se um comportamento realmente representa um risco.

Quando uma interrupção é difícil de desfazer, equipes podem hesitar antes de agir.

Com uma restauração simplificada, a empresa pode conter o agente primeiro, analisar o problema e liberá-lo novamente caso identifique um falso positivo.

Agent Kill Switch mantém registro de auditoria

Outra função importante está relacionada à governança de IA.

Cada intervenção realizada pelo sistema gera um registro de auditoria.

O histórico documenta informações como:

• quem realizou a intervenção;
• quando ela aconteceu;
• qual agente foi afetado;
• qual foi o escopo do bloqueio;
• quais ações foram executadas.

Registros são protegidos contra alterações

A Salesforce afirma que as ações ficam armazenadas em um registro inviolável e encadeado por hash.

Essa arquitetura ajuda organizações que precisam comprovar como incidentes envolvendo inteligência artificial foram tratados.

Auditoria de IA ganha importância regulatória

À medida que agentes passam a participar de processos corporativos, empresas precisam conseguir responder perguntas como:

Quem autorizou determinada ação?

Por que um agente foi interrompido?

O que o agente estava executando naquele momento?

Quando o sistema voltou a operar?

“A IA decidiu” deixa de ser justificativa suficiente

A autonomia de um agente não elimina a responsabilidade da organização que o colocou em produção.

Por isso, rastreabilidade e documentação passam a fazer parte da infraestrutura necessária para adoção empresarial da IA.

Por que agentes de IA precisam de um botão de emergência?

Agentes de IA são diferentes de chatbots tradicionais porque podem executar ações autonomamente.

Dependendo das permissões concedidas, um agente pode:

• consultar bancos de dados;
• utilizar ferramentas;
• acessar APIs;
• conversar com outros agentes;
• alterar informações;
• acionar processos empresariais;
• consumir recursos computacionais.

Quanto maior a autonomia, maior também a necessidade de mecanismos capazes de interromper uma execução rapidamente.

Segurança se torna essencial para adoção da IA agêntica

Para empresas, o avanço da IA agêntica depende não apenas da capacidade dos modelos, mas também dos mecanismos de controle.

Ferramentas como kill switches, permissões, auditoria, isolamento e monitoramento ajudam a limitar o impacto quando alguma coisa sai do comportamento esperado.

Controle pode acelerar aprovação de agentes nas empresas

Áreas de segurança e compliance tendem a exigir garantias antes de permitir que agentes autônomos sejam utilizados em processos críticos.

Um agente que pode ser isolado, interrompido, restaurado e auditado apresenta um risco mais controlável do que um sistema sem mecanismos de intervenção.

Como empresas devem preparar o Agent Kill Switch?

A Salesforce recomenda definir previamente o que deve ser considerado um soft stop ou hard stop para cada agente considerado crítico.

Também é importante testar os processos antes de uma situação real.

Testes devem acontecer fora da produção

As equipes podem simular a interrupção e a restauração de um agente em um ambiente controlado.

O objetivo é garantir que os responsáveis saibam como reagir quando um incidente verdadeiro acontecer.

Governança precisa existir antes do problema

O botão de emergência é apenas uma parte da estratégia.

Empresas também precisam definir responsáveis, permissões, critérios de risco e procedimentos de resposta.

Agent Kill Switch mostra nova fase da IA corporativa

A discussão sobre inteligência artificial empresarial está avançando da capacidade dos modelos para a governança de sistemas autônomos.

À medida que agentes recebem mais autonomia, organizações precisam desenvolver maneiras de acompanhar, limitar e interromper suas ações.

Com o Agent Kill Switch, a Salesforce busca adicionar uma camada de segurança operacional ao Agent Fabric e transformar a gestão de agentes de IA de uma abordagem baseada apenas em confiança para um modelo de controle, reversibilidade e auditoria.