Por Enio Klein
A regulamentação da Inteligência Artificial (IA) no Brasil é um tema que precisa ser tratado com urgência e equilíbrio. A tecnologia avança rapidamente e já está impactando a sociedade de forma significativa, desde processos de tomada de decisão até mecanismos de influência digital. Para que seu uso seja benéfico e não comprometa direitos fundamentais, considero essencial que a regulação seja estruturada com base em princípios de transparência, segurança, ética e responsabilidade. Esta não é uma questão meramente técnica, mas um desafio que envolve governança, impacto social e proteção contra riscos que ainda estamos começando a compreender. O que apresento aqui é a minha visão sobre o tema, baseada em experiência e análise do cenário atual, mas entendo que esse é um debate complexo e em constante evolução, aberto a diferentes perspectivas e contribuições.
Um dos aspectos centrais dessa regulamentação é a criação de um órgão regulador independente. Eu, pessoalmente, não acredito que a ANPD (Autoridade Nacional de Proteção de Dados) deva acumular essa função, pois seu foco deve ser voltado para a proteção de dados pessoais e privacidade. A regulamentação da IA, por outro lado, envolve uma gama mais ampla de temas, como ética algorítmica, viés, transparência, impactos sociais, segurança nacional e responsabilidade sobre decisões automatizadas. Além disso, a IA afeta setores diversos, como saúde, justiça, segurança pública e infraestrutura crítica, exigindo uma abordagem multidisciplinar e uma regulação específica. Para garantir fiscalização efetiva, independência e especialização, é essencial um órgão dedicado exclusivamente à governança da IA, sem sobrecarregar a ANPD e sem comprometer sua função central de garantir o cumprimento da LGPD.
Outro ponto crucial é a transparência na origem dos dados utilizados para treinar modelos de IA. A qualidade e a confiabilidade desses dados impactam diretamente o desempenho dos sistemas e sua imparcialidade. Para evitar vieses e garantir conformidade com a LGPD, os desenvolvedores devem ser obrigados a documentar e auditar as fontes de informação utilizadas. Além disso, é fundamental haver mecanismos de controle para impedir o uso de dados obtidos de forma irregular, garantindo que a IA não amplifique desigualdades ou viole direitos individuais.
A relação entre a IA e a tomada de decisões automatizadas também precisa de atenção especial. Os cidadãos devem ter o direito de questionar decisões baseadas em IA e exigir explicações claras sobre seus critérios. Em setores críticos, como crédito, saúde e segurança pública, é indispensável a possibilidade de revisão humana para evitar injustiças e garantir transparência. Sistemas que impactam diretamente a vida das pessoas devem ser auditáveis e compreensíveis, permitindo que os usuários e reguladores avaliem seu funcionamento e correção.
Além disso, a regulação deve levar em conta a responsabilização e os diferentes níveis de risco dos sistemas de IA. Aplicações de alto impacto, como aquelas utilizadas em infraestrutura crítica ou segurança pública, exigem regras mais rígidas e auditorias frequentes. Já sistemas de menor risco podem ter exigências proporcionais ao seu potencial de dano. A diferenciação regulatória por níveis de risco é fundamental para permitir inovação sem comprometer a segurança e os direitos da sociedade. Esse princípio já é adotado na legislação europeia, com o AI Act, que classifica os sistemas de IA conforme seu grau de risco e impõe exigências mais rigorosas para aqueles que apresentam maior impacto. No Brasil, o projeto de lei em análise na Câmara dos Deputados também prevê uma abordagem semelhante, o que é um avanço importante para garantir uma regulamentação equilibrada e alinhada às melhores práticas internacionais.
O combate às fraudes impulsionadas por IA também deve ser uma prioridade. Tecnologias como deepfakes, falsificações documentais e golpes automatizados já representam desafios significativos para a segurança digital e a integridade de informações. Empresas e órgãos públicos precisam implementar soluções baseadas em IA para detectar fraudes, enquanto os desenvolvedores devem ser responsabilizados caso suas tecnologias sejam usadas para fins ilícitos. Além disso, é necessário um arcabouço normativo que permita a fiscalização eficaz desses sistemas e preveja mecanismos de compensação para vítimas de fraudes tecnológicas.
Outro tema sensível é o uso da IA para monitorar e influenciar comportamentos. Em plataformas digitais e redes sociais, algoritmos são projetados para maximizar engajamento, influenciando emoções, opiniões e hábitos de consumo. Embora isso já seja uma realidade, há um risco considerável quando essas tecnologias são usadas de forma manipulativa, especialmente em relação a crianças e adolescentes. Medidas regulatórias devem garantir que os usuários tenham mais controle sobre sua experiência digital e que práticas exploratórias sejam coibidas. A transparência dos algoritmos de recomendação e personalização deve ser um requisito básico.
Por fim, a regulamentação precisa abordar a cibersegurança em projetos de IA. A crescente complexidade desses sistemas os torna vulneráveis a ataques, manipulações e até mesmo usos mal-intencionados. Para mitigar esses riscos, é essencial definir requisitos mínimos de segurança, prever auditorias regulares e estabelecer protocolos de resposta a incidentes cibernéticos específicos para IA. Além disso, incentivar o desenvolvimento de arquiteturas explicáveis e verificáveis pode aumentar a confiança e a robustez desses sistemas.
A regulamentação da Inteligência Artificial no Brasil não deve ser vista como um entrave à inovação, mas como uma estratégia para garantir que seu desenvolvimento ocorra de forma responsável e alinhada ao interesse público. A IA tem o potencial de transformar a sociedade de maneira positiva, mas isso só será possível se forem estabelecidos limites claros e mecanismos eficazes de fiscalização. O desafio não é apenas técnico, mas também ético e social, e cabe ao Brasil construir um modelo regulatório que equilibre progresso e proteção aos direitos fundamentais. Este é um debate essencial e ainda em construção, e acredito que todas as contribuições são bem-vindas para podermos chegar a um modelo de regulação que seja, de fato, eficaz e justo para todos.
