Shadow Mode & IA na Segurança

Esta é uma das regras mais fortes da governança da Serigy: nunca usar IA para segurança a partir do zero. Primeiro observamos, construímos um baseline, e só então — com base nesse conhecimento — consideramos IA. E, quando a IA atua, ela nunca age sozinha sobre produção.

A ordem correta (e a errada)

flowchart LR
    subgraph errado["❌ Errado"]
        E1["Instalar IA"] --> E2["IA analisa"] --> E3["IA bloqueia / deleta"]
    end
    subgraph certo["✅ Correto"]
        C1["Instrumentar (eBPF + observabilidade)"] --> C2["Shadow Mode 15–30 dias"]
        C2 --> C3["Baseline / base de conhecimento"]
        C3 --> C4["Treinar IA com base no normal"]
        C4 --> C5["IA detecta → alerta → aprovação → executa"]
    end

Pular o baseline é o erro clássico. Sem saber o que é “normal”, qualquer IA gera falso-positivo demais (e bloqueia o legítimo) ou falso-negativo demais (e deixa passar). O baseline é o pré-requisito.

Fase 1 — Shadow Mode (observar, não bloquear)

Por 15 a 30 dias, as ferramentas rodam em modo observação:

Tetragon/eBPF emite eventos de syscalls, processos, rede e DNS — sem aplicar bloqueios.
A observabilidade (OTel → Prometheus/Tempo/Grafana) registra métricas, traces e logs.
O resultado é um baseline: o perfil do comportamento normal do cluster e das aplicações.

Programas de segurança já são feitos para esse modo. Sem esse baseline, não avance.

Fase 2 — IA orientada pelo baseline

Com o baseline pronto, a IA passa a ser útil de verdade. Dois usos:

Detecção de anomalia

Variações bruscas contra o baseline são detectadas em segundos quando os gatilhos estão bem ajustados.

Exemplo: um endpoint que faz ~100 consultas/min salta para ~3000 consultas/min. Com pontos de gatilho bem feitos, a IA sinaliza isso em ~30 segundos.

Sinais compostos (ataques modernos)

Ataques atuais raramente são um único evento — são correlações. A IA é boa em cruzar sinais fracos que, juntos, viram um forte:

10 erros de CSP + 20 logins com falha + pico de tráfego DNS + consulta anônima → um padrão suspeito que nenhum sinal isolado revelaria.

Esses sinais vêm do BFF/CSP, do LLDAP (falhas de login), do eBPF/DNS e da observabilidade.

Fase 3 — IA como operador semi-autônomo (humano no loop)

A IA pode operar o cluster, mas semi-autônoma. O antipadrão perigoso é “IA detecta → derruba ou deleta a instância”. O fluxo correto é:

flowchart LR
    Det["IA detecta anomalia"] --> Alert["Cria alerta"]
    Alert --> Wait["Aguarda decisão humana"]
    Wait -->|aprovado| Exec["Executa a ação"]
    Wait -->|negado| Stop["Não age / registra"]

Antipadrão	Padrão da Serigy
Detecta → deleta/derruba sozinha	Detecta → alerta → aprovação → executa
Ação irreversível automática	Ação reversível, auditável, com humano no loop

Isso é coerente com o princípio 8 e com o agente autônomo, que provisiona infraestrutura, mas não executa ações destrutivas de segurança por conta própria.