Bahia pode proibir decisões feitas por IA em órgãos públicos e acende debate sobre limites da tecnologia

Projeto de lei prevê supervisão humana obrigatória, transparência e responsabilização no uso da inteligência artificial pelo Estado.

A Bahia pode dar um passo importante na regulação da inteligência artificial (IA) no setor público. Um projeto de lei em tramitação na Assembleia Legislativa propõe proibir decisões totalmente automatizadas por IA em órgãos públicos, especialmente aquelas que impactem diretamente a vida dos cidadãos, como concessão de benefícios, sanções ou serviços essenciais.  

A proposta não impede o uso da tecnologia, mas estabelece limites claros: sistemas de IA poderão ser utilizados como ferramenta de apoio, mas nunca como substitutos da análise humana. A medida surge em um contexto de crescimento acelerado dessas tecnologias na administração pública e de preocupações com seus riscos.

O que diz o projeto

O texto prevê que nenhuma decisão que afete direitos individuais poderá ser tomada exclusivamente por sistemas automatizados sem possibilidade de revisão por um agente público.  

Entre os principais pontos estão:

• obrigatoriedade de supervisão humana em processos decisórios;
• direito do cidadão de saber quando a IA está sendo utilizada;
• possibilidade de contestar decisões automatizadas;
• exigência de explicação clara dos critérios usados pelos algoritmos;
• criação de mecanismos para evitar discriminação algorítmica.  

Além disso, o projeto prevê auditorias periódicas, capacitação de servidores e até a criação de comitês de ética para acompanhar o uso da tecnologia.  

O que levou à possível proibição

A proposta nasce de uma combinação de fatores técnicos, sociais e jurídicos.

O primeiro deles é o risco de decisões injustas ou enviesadas. Sistemas de IA aprendem a partir de dados — e, se esses dados carregam distorções, o resultado pode reforçar desigualdades.  

Outro ponto é a chamada “caixa-preta algorítmica”, quando nem mesmo os operadores conseguem explicar como a IA chegou a determinada decisão. Isso contraria princípios básicos da administração pública, como transparência e motivação dos atos.  

Também pesa o avanço recente do uso da IA em diversas áreas do governo — como saúde, segurança e gestão administrativa — sem uma legislação específica consolidada.  

Casos recentes envolvendo manipulação de conteúdo por IA, inclusive no cenário político, reforçaram o alerta sobre o potencial de uso indevido da tecnologia e a necessidade de regulação mais rígida.  

Implicações do uso de textos e decisões gerados por IA

A discussão também envolve diretamente o uso de textos produzidos por IA dentro do serviço público — como pareceres, relatórios ou decisões administrativas.

Especialistas apontam alguns riscos:

• Responsabilidade difusa: quem responde por um erro — o sistema ou o gestor?
• Falta de autoria clara: textos gerados por IA podem dificultar a identificação de quem tomou a decisão.
• Padronização excessiva: risco de decisões “automatizadas” sem análise individualizada de cada caso.
• Dependência tecnológica: órgãos públicos podem se tornar reféns de sistemas e empresas privadas.

Por outro lado, a IA também oferece vantagens importantes, como aumento de produtividade, redução de custos e apoio na análise de grandes volumes de dados.  

O desafio, portanto, não é eliminar a tecnologia, mas garantir que ela seja usada com controle humano, ética e responsabilidade.

Cenário mais amplo na Bahia

A proposta surge em meio a um movimento maior do estado para estruturar políticas de inteligência artificial. O governo baiano já iniciou a construção de um plano estratégico para o uso da tecnologia, envolvendo universidades, setor produtivo e sociedade civil.  

A tendência é que a Bahia busque um modelo de uso equilibrado da IA, que incentive a inovação, mas sem abrir mão da proteção de direitos fundamentais.

O que vem pela frente

O projeto ainda passará por comissões antes de ser votado em plenário. Se aprovado, poderá colocar a Bahia entre os estados pioneiros na regulação do uso de inteligência artificial no setor público.

Mais do que uma proibição, a proposta sinaliza uma mudança de paradigma: a tecnologia pode até acelerar decisões, mas a responsabilidade final deve continuar sendo humana.