Especialista em infraestrutura corporativa em nuvem alerta que muitas organizações podem não conseguir interromper rapidamente sistemas de inteligência artificial; falta de supervisão, integração com processos críticos e indefinição de responsabilidades estão entre os principais obstáculos.
A inteligência artificial está cada vez mais integrada às operações empresariais, do atendimento ao cliente à execução de processos internos. Mas, se um desses sistemas começar a agir de maneira inesperada, a empresa saberia como interrompê-lo sem comprometer o restante da operação? Para Thiago R. de Souza, Senior Cloud/DevOps Engineer com mais de nove anos de experiência em infraestrutura corporativa, AWS Community Builder e detentor de múltiplas certificações AWS nos níveis Professional e Specialty, a maioria das organizações provavelmente enfrentaria dificuldades para reagir rapidamente. O problema, segundo ele, não está necessariamente na tecnologia, mas na falta de planejamento para lidar com possíveis falhas.
O especialista identifica três obstáculos principais: a ausência de um inventário dos sistemas de IA utilizados, a dependência de processos críticos dessas ferramentas e a indefinição sobre quem tem autoridade para determinar sua interrupção. Para reduzir os riscos, ele defende limitar as permissões concedidas à inteligência artificial, monitorar continuamente seu comportamento e testar antecipadamente os procedimentos de desligamento.
Para Thiago, uma IA fora de controle não é uma máquina que desenvolveu consciência ou se rebelou, como na ficção científica. Trata-se de um sistema automatizado que executa, em alta velocidade e escala, ações diferentes das esperadas, sem que a organização perceba ou consiga interrompê-las a tempo. Entre os exemplos estão chatbots que fornecem informações incorretas a milhares de clientes, agentes que entram em ciclos repetitivos e elevam os custos de infraestrutura e sistemas manipulados por instruções maliciosas escondidas em documentos ou e-mails, técnica conhecida como prompt injection. “Fora de controle, na prática, quase sempre significa fora de visibilidade”, resume.
O relatório Cost of a Data Breach 2025, divulgado pela IBM em julho de 2025, reforça a preocupação. Entre as organizações pesquisadas que relataram violações envolvendo modelos ou aplicações de IA, 97% afirmaram não possuir controles de acesso adequados para esses sistemas. O levantamento também apontou que 63% das organizações que sofreram violações de dados não tinham uma política de governança de IA ou ainda estavam desenvolvendo uma.
Outro risco é o chamado shadow AI, uso de ferramentas de inteligência artificial sem aprovação ou supervisão formal da empresa. Segundo a IBM, uma em cada cinco organizações analisadas relatou uma violação associada a essa prática. Para Thiago, o maior perigo não está necessariamente em uma tecnologia extraordinária que escapa ao controle, mas em sistemas comuns que operam sem limites e supervisão suficientes.
O botão de desligar precisa ser planejado
Na prática, interromper uma IA não depende de um único botão. Em ambientes de nuvem, existem diferentes mecanismos de contenção, como revogar credenciais de acesso, bloquear a comunicação do sistema com outros serviços, interromper aplicações ou desativar funcionalidades específicas por meio das chamadas feature flags. Ferramentas de monitoramento de consumo e alertas de orçamento também podem ajudar a identificar comportamentos anormais.
No entanto, esses mecanismos precisam ser previstos na arquitetura da empresa. “Uma IA que compartilha credenciais com outros sistemas e está amarrada à operação inteira não tem botão de desligar, por mais moderna que seja a infraestrutura embaixo dela”, alerta o especialista.
A decisão de interromper o funcionamento também exige responsabilidades previamente estabelecidas. Thiago defende que a equipe responsável pelo monitoramento tenha autonomia para agir diante de sinais claros de descontrole, enquanto cada sistema de IA deve contar com um responsável formal por suas permissões, comportamento e plano de contingência.
Para evitar que a interrupção comprometa toda a operação, a recomendação é manter alternativas para as atividades automatizadas. Um chatbot, por exemplo, pode transferir atendimentos para uma fila humana, enquanto uma triagem automática pode voltar temporariamente ao processo manual. “Quando a única opção é o desligamento total, a empresa hesita, e hesitação em incidente custa caro”, afirma.
Os sinais de alerta e o teste de maturidade
Respostas inconsistentes, aumento de erros, picos inesperados de consumo, acessos a informações incomuns e tentativas repetidas de executar ações sem autorização estão entre os sinais de que uma IA pode estar operando fora dos limites esperados. Entretanto, identificar essas alterações depende de métricas, registros de auditoria e parâmetros que permitam comparar o comportamento atual com o padrão habitual. “Sem métricas de comportamento, sem trilha de auditoria e sem baseline do que é normal, a empresa não tem sinais de alerta, tem apenas a surpresa”, destaca o especialista.
Segundo Thiago, qualquer gestor pode avaliar a preparação da empresa a partir de três perguntas: quais sistemas de IA estão em funcionamento, a quais informações e recursos eles têm acesso e quem seria responsável por interrompê-los em uma emergência, incluindo os possíveis impactos dessa decisão.
Se a organização não souber responder, o especialista considera que já identificou uma prioridade para seu planejamento de 2027. “A capacidade de desligar é, paradoxalmente, o que permite ligar com confiança. As empresas que sabem exatamente como interromper seus sistemas de IA são as que podem dar mais autonomia a eles, porque autonomia com freio testado é estratégia, e autonomia sem freio é aposta”, conclui Thiago R. de Souza.
