Notícias
A aplicação da IA aos sistemas que nos governam busca usar essa tecnologia como auxiliar na produção e na análise de dados para organizar as relações humanas, as políticas públicas, econômicas e sociais. (Crédito da imagem: Ramon Buçard, Unsplash).
A inteligência artificial (IA) deixou de ser algo do futuro. Justiça, saúde, educação, segurança pública, em todas essas áreas, a IA já atua, por mais imperceptível que isso possa ser. Contudo, qual é a extensão dessa atuação? E quais os desafios associados a essa implementação?
Para explorar essas questões, o Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, preparou uma série especial de reportagens. Serão abordados exemplos reais de projetos desenvolvidos por pesquisadores brasileiros, e discutidas as implicações éticas e sociais do uso desses sistemas em instâncias governamentais. Para saber mais, acompanhe as demais reportagens desta série.
IA para a governança – A aplicação da IA aos sistemas que nos governam busca usar essa tecnologia como auxiliar na produção e na análise de dados para organizar as relações humanas, as políticas públicas, econômicas e sociais. Dessa forma, ela atua principalmente na classificação e na automatização de dados dos cidadãos, bem como na eficiência de sistemas, como a otimização do tráfego urbano ou a distribuição de recursos de saúde.
Todavia, pensar em soluções inteligentes para a gestão pública não é tarefa fácil e exige diversas etapas. Isso é o que indica o professor Ricardo Marcondes Marcacini, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos. No setor público, a adoção de inteligência artificial também precisa considerar aspectos que vão além do desempenho dos modelos. Custos de operação, privacidade dos dados, segurança da informação, transparência e possibilidade de execução em infraestrutura local são fatores essenciais. Por isso, nem sempre é viável utilizar diretamente, de forma contínua, os modelos de IA mais avançados e de maior custo.
Nesse contexto, uma alternativa é utilizar uma IA professora, de alto desempenho, durante uma etapa controlada do desenvolvimento. Marcacini explica: “Inicia-se pelo mapeamento das tarefas do órgão público. Em seguida, uma IA professora (de alto desempenho) é utilizada em um ambiente controlado para aprender a executar essas tarefas e gerar dados valiosos. Após a validação dos resultados pelos servidores públicos, essa IA treina uma IA estudante, ou seja, um modelo menor, mais barato e especializado, que o órgão consegue executar em sua própria infraestrutura sem custos elevados de processamento, de forma segura”, explica o pesquisador. Essa é a conhecida abordagem professor-aluno de treinamento de novas inteligências, mais específicas.
De acordo com Marcacini, qualquer sistema de inteligência artificial precisa de um “cérebro” para funcionar, o chamado motor de inferência. Para usar inteligência artificial em dados textuais, este papel hoje costuma ser ocupado pelas LLMs (os grandes modelos de linguagem). “Uma LLM é um sistema capaz de compreender textos, conectar ideias e responder ao usuário de forma inteligente”, explica.
Para que essa tecnologia consiga prever e encaixar as palavras certas em uma conversa, por exemplo, ela precisa “estudar” um volume gigantesco de informações. Geralmente, são usados dados públicos disponíveis na internet. Quando as informações são privadas, a coleta deve ser feita de forma ética e com a autorização dos usuários, como por meio de termos de aceite que assinamos digitalmente.
O grande desafio é que esses bancos de dados costumam ser imensos e desorganizados. Por isso, antes de servirem como material de treino para a IA, essas informações passam por uma espécie de limpeza e organização profunda, garantindo que o sistema aprenda com fontes de qualidade.
O acesso a esses dados precisa ser feito de maneira responsável e segura, para evitar vazamentos e, até mesmo, espionagem, controle e a perda de privacidade. Por conta disso, normas como a Lei Geral de Proteção de Dados Pessoais (LGPD), no Brasil, e o Regulamento Geral sobre a Proteção de Dados (RGPD), na União Europeia, são muito importantes e devem servir de base para o uso de IA na governança. Além disso, marcos regulatórios mais rigorosos, que exigem responsabilidade e transparência dos sistemas de IA, são essenciais.
Marcacini coordena o desenvolvimento de um framework voltado para a gestão pública com apoio da Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP). Ele explica que esse framework é uma proposta prática, já em uso em algumas aplicações: “A diferença em relação a uma LLM comum é que a que desenvolvemos trata dados sensíveis, mantendo sua utilidade para a tomada de decisão, ao mesmo tempo em que respeita a LGPD”.
Dessa maneira, os dados não são compartilhados com terceiros, como uma empresa privada, por exemplo. “O modelo anonimiza os dados de forma a não ser possível identificar a origem, a pessoa, o indivíduo. Ele é um modelo treinado para resolver esse problema de órgãos públicos que têm necessidade de tratar dados sensíveis”, explica o docente.
“O modelo anonimiza os dados de forma a não ser possível identificar a origem, a pessoa, o indivíduo. Ele é um modelo treinado para resolver esse problema de órgãos públicos que têm necessidade de tratar dados sensíveis”, explica o professor Ricardo Marcacini. (Crédito da imagem: Marcos Ferreira)
Desafios – Se, por um lado, a IA promete maior eficiência, por outro, ela introduz desafios éticos que podem corroer os valores democráticos fundamentais.
Diferente de outros sistemas tradicionais, nos quais se pode questionar um funcionário e realizar auditorias, as decisões da maioria das IAs ocorrem em camadas ocultas, o que também pode ser chamado de caixa-preta. Sem transparência, torna-se impossível fiscalizar e atribuir responsabilidade a determinados sistemas em caso de erros ou discriminação. Assim, algoritmos estão suscetíveis a herdarem os mais diversos preconceitos presentes nos dados, podendo reforçar injustiças contra minorias, sendo um exemplo o racismo algorítmico.
Além disso, a necessidade de coletar muitos dados sociais, assim como a capacidade desses sistemas de realizar um mapeamento social profundo, permite seu uso por regimes autoritários. Problemas como vigilância em massa e manipulação social têm sido cada vez mais preocupantes, ainda mais em um cenário no qual os nossos dados são concentrados em algumas poucas corporações, fora de nosso país.
Nesse sentido, o Plano Brasileiro de Inteligência Artificial, intitulado “IA para o Bem de Todos”, é uma iniciativa estratégica que prevê o investimento de R$ 23 bilhões para promover o desenvolvimento tecnológico ético, sustentável e soberano da IA no país. Embora os pesquisadores vejam a proposta com entusiasmo por ser necessária, alertam para desafios que persistem, como a insuficiência de recursos e a falta de infraestrutura física adequada para operar tecnologias de grande porte.
Portanto, é necessário que a formação de cientistas da computação seja crítica e permita a construção de uma nação soberana, quanto aos seus dados e tecnologias digitais, permitindo que ferramentas poderosas como a IA beneficiem a sociedade, e não que sejam utilizadas para aumentar desigualdades.
Mas, o que é a IA? – A IA não é algo tão recente como geralmente se imagina. Em geral, as bases do que viria a ser a IA surgem na metade do século XX, com grande contribuição de Alan Turing. Em trabalhos como o Máquinas inteligentes (1948) e Máquinas computacionais e inteligência (1950), Turing sugere que máquinas deveriam ter a capacidade de aprender com a experiência, ou mesmo pensar. Seu trabalho possibilitou a evolução da inteligência computacional e do conexionismo, uma forma de processamento de informações e aprendizado por meio de redes interconectadas, inspiradas na arquitetura neural do cérebro humano.
No Brasil, já na década de 1990, pesquisadores do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP) desenvolveram o primeiro revisor ortográfico e gramatical de língua portuguesa, que foi posteriormente adquirido pela Microsoft para integrar o Word.
Para além dos assistentes virtuais como a Siri e a Alexa, ou mesmo dos chatbots, como o ChatGPT, o Gemini ou o Grok, a IA hoje é, essencialmente, um sistema avançado de processamento de informações. Ela é treinada com base em algoritmos complexos que identificam padrões em grandes volumes de dados, com a finalidade de gerar resultados assertivos para determinadas tarefas, fazer previsões e automatizar sistemas. Assim, é possível processar uma quantidade muito grande de informações, de forma extremamente rápida, o que seria impossível para qualquer pessoa.
A IA já é usada para as mais diversas aplicações. No mercado de trabalho, tem potencializado a produtividade e, por isso, é tão querida pelas grandes corporações. Quando usada de forma colaborativa com os profissionais, pode facilitar a execução de tarefas burocráticas. É inegável que a IA supera as capacidades humanas na análise de grandes volumes de dados e na automatização de processos. Contudo, ela não deve servir à substituição dos trabalhadores, que, cada vez mais, se tornam fundamentais para garantir que os resultados de tanta produtividade sejam éticos, fidedignos e válidos, com base no bom senso e na empatia.
Mais informações
Trabalhos sobre IA e Governança:
Projeto LLM4Gov:
Texto: Marcos Vinícius Ribeiro Ferreira – Bolsista de Jornalismo Científico FAPESP (processo número 2025/24158-0).
Sob supervisão de Denise Casatti, da Assessoria de Comunicação do ICMC/USP.
Agradecimentos: À Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP, processo número 2025/24158-0, vinculado ao processo número 2023/10100-4) pelo auxílio financeiro concedido no formato de uma bolsa de jornalismo científico. Ao professor Ricardo Marcondes Marcacini.
Atendimento à imprensa
Assessoria de Comunicação do ICMC/USP: (11) 9.9125.9459 (WhatsApp)
E-mail: comunica@icmc.usp.br
