Por Enio Klein
Durante décadas, organizações investiram em tecnologia para automatizar processos, aumentar eficiência e ampliar sua capacidade de execução. A inteligência artificial representa a próxima etapa dessa trajetória. A diferença é que, desta vez, não estamos apenas automatizando tarefas. Estamos transferindo partes relevantes do processo decisório para sistemas que aprendem, recomendam, classificam, priorizam e influenciam escolhas humanas.
É justamente nesse ponto que surge uma das frases mais perigosas da governança contemporânea: “foi o sistema”. A afirmação parece simples. Muitas vezes soa até razoável. Afinal, se uma recomendação foi produzida por um algoritmo, se uma análise foi gerada por uma IA ou se uma decisão operacional foi tomada com base em um modelo automatizado, seria natural atribuir a responsabilidade à tecnologia. Mas governança nunca funcionou dessa forma.
Sistemas não possuem responsabilidade jurídica, ética ou fiduciária. Organizações possuem. Conselheiros possuem. Executivos possuem. A tecnologia pode participar da decisão, mas a responsabilidade continua pertencendo às pessoas e às instituições. Essa distinção parece óbvia na teoria, mas começa a desaparecer na prática. À medida que a inteligência artificial se torna mais sofisticada e mais presente no cotidiano corporativo, cresce a tendência de aceitar suas recomendações sem questionamento adequado. O resultado é um fenômeno silencioso: a transferência gradual da autoridade decisória sem a transferência correspondente da responsabilidade.
O problema não está na utilização da IA. O problema está na ausência de mecanismos capazes de explicar como determinada recomendação foi produzida, quais dados foram utilizados, quais critérios influenciaram o resultado e quem decidiu aceitar aquela orientação.
Durante muitos anos, a governança corporativa concentrou seus esforços em controlar resultados. Indicadores financeiros, métricas operacionais, níveis de serviço e desempenho passaram a ser acompanhados com rigor crescente. No entanto, a chegada da inteligência artificial exige uma mudança de perspectiva. Não basta governar resultados. É necessário governar os processos que levam às decisões.
Quando uma organização não consegue reconstruir o caminho percorrido por uma decisão relevante, ela perde algo fundamental: a capacidade de prestar contas. Sem rastreabilidade, não existe auditoria efetiva. Sem auditoria, não existe responsabilização. Sem responsabilização, a governança se transforma em uma formalidade incapaz de produzir confiança.
O desafio torna-se ainda mais complexo porque muitas decisões influenciadas por IA não acontecem em reuniões de diretoria ou em votações formais. Elas surgem em recomendações de crédito, avaliações de risco, priorização de clientes, análises de candidatos, definição de preços, respostas automatizadas e centenas de microdecisões incorporadas aos fluxos operacionais das organizações.
Em muitos casos, ninguém percebe que uma decisão está sendo tomada. O processo simplesmente acontece. Essa invisibilidade cria uma nova categoria de risco. Não se trata apenas do risco de erro do algoritmo. Trata-se do risco de não saber como a decisão foi construída. E quando não sabemos como uma decisão foi construída, também não sabemos quem deveria responder por ela.
Para investidores, conselheiros e empreendedores, essa talvez seja uma das questões mais relevantes da próxima década. A discussão sobre inteligência artificial não pode permanecer limitada à eficiência, produtividade ou inovação. Ela precisa incluir responsabilidade, transparência e prestação de contas.
A pergunta central deixa de ser “podemos usar IA?” e passa a ser “como garantiremos governança sobre decisões que passam a ser influenciadas por IA?”
Empresas que responderem essa pergunta antes de seus concorrentes construirão um diferencial importante de confiança. Empresas que ignorarem essa discussão poderão descobrir tarde demais que delegaram parte de suas decisões sem criar mecanismos adequados de supervisão.
A inteligência artificial não elimina a responsabilidade humana. Pelo contrário. Quanto mais sofisticada a tecnologia se torna, maior é a necessidade de clareza sobre quem define critérios, quem supervisiona resultados e quem responde pelas consequências.
Porque, diante de um erro relevante, de um viés discriminatório, de uma decisão injusta ou de um impacto reputacional significativo, nenhuma organização conseguirá se proteger atrás da frase que talvez simbolize o maior equívoco da era digital:
“Foi o sistema.”
Enio Klein é sócio da Doxa Advisers | Membro da PUC Angels | Especialista em Governança, Segurança da Informação e Proteção de Dados
____________
Este artigo reflete exclusivamente a opinião do autor, e integra a série de reflexões desenvolvidas a partir do e-book Decisões Sem Dono – Governança na Era da Inteligência Artificial. O objetivo é estimular o debate sobre governança, responsabilidade e tomada de decisão em um contexto de crescente adoção da inteligência artificial nas organizações. Foi desenvolvido pelo autor com apoio de ferramentas de Inteligência Artificial para pesquisa, organização e revisão textual. As ideias, análises, interpretações e conclusões apresentadas são de inteira responsabilidade do autor.
