A Prefeitura de Curitiba publicou uma norma de governança que estabelece regras para o uso de inteligência artificial (IA) nos órgãos da administração municipal direta. A regulamentação, publicada pela Secretaria Municipal de Administração e Tecnologia da Informação, determina que os cidadãos devem ser alertados quando estão interagindo com agentes de IA na administração pública, entre outras determinações.
O texto, porém, não prevê que os sistemas utilizados sejam de código aberto, nem em que medida o usuário terá autonomia sobre seus dados.
A norma se aplica a todos os órgãos municipais, além de fornecedores e parceiros envolvidos no desenvolvimento ou uso de soluções de IA. O texto parte da premissa de que a tecnologia deve funcionar como apoio à tomada de decisão, e não como substituta da atuação humana, especialmente em situações que possam impactar diretamente a vida dos cidadãos.
Entre os princípios estabelecidos estão a legalidade, a ética, a transparência e a proteção de dados pessoais, em conformidade com a Lei Geral de Proteção de Dados (LGPD). A norma também reforça a necessidade de explicabilidade dos sistemas, garantindo que decisões assistidas por IA possam ser compreendidas e auditadas. Outro ponto central é a proibição de usos discriminatórios e a exigência de mecanismos que reduzam vieses algorítmicos, além da obrigatoriedade de responsabilização em caso de danos.
O texto assegura ainda direitos aos cidadãos afetados por sistemas de IA no âmbito municipal. Entre eles estão o direito de ser informado previamente sobre o uso da tecnologia em atendimentos ou decisões, o acesso a explicações em linguagem clara sobre resultados produzidos por sistemas automatizados e a possibilidade de contestar decisões que tenham impacto relevante, com garantia de revisão por um agente humano.
A norma cria também uma classificação de risco para as soluções de IA, que orienta o nível de controle e exigências antes da implementação. Sistemas considerados de baixo risco são aqueles com uso administrativo simples e sem impacto direto sobre direitos, como apoio à redação de documentos. Já soluções de risco médio envolvem influência indireta sobre fluxos e análises administrativas e exigem documentação técnica e revisão humana periódica. Nos casos de alto risco, que incluem sistemas com impacto direto sobre direitos, benefícios ou decisões públicas, a exigência é mais rigorosa, com a necessidade de relatórios de impacto, mecanismos de explicabilidade reforçada, auditoria e participação humana efetiva nas decisões.
Um capítulo específico trata do uso de inteligência artificial generativa, como ferramentas de produção de texto e conteúdo. A norma proíbe o uso dessas plataformas para inserção de dados pessoais sensíveis, informações sigilosas ou credenciais institucionais, especialmente em serviços externos sem garantia contratual de segurança. Também determina que qualquer conteúdo gerado por IA para uso oficial deve ser revisado e validado por um servidor público, que será o responsável pelo material final. Documentos produzidos com auxílio de IA deverão incluir uma nota de transparência informando o uso da tecnologia.
A governança da política de IA ficará sob responsabilidade da Secretaria Municipal de Administração e Tecnologia da Informação, que deverá definir diretrizes, acompanhar a implementação e garantir a conformidade com a legislação. Nenhuma solução poderá ser implantada sem avaliação prévia de viabilidade técnica, análise de dados e validação formal. A norma também estabelece a necessidade de registro e rastreabilidade de todas as iniciativas, evitando o uso de sistemas isolados fora da arquitetura institucional.
Além disso, a regulamentação prevê a criação de um plano de capacitação para servidores, com foco em uso seguro, ética, proteção de dados e compreensão dos riscos associados à tecnologia. A formação deverá abranger diferentes perfis, incluindo gestores, equipes técnicas e áreas jurídicas.
