Palestras e Seminários
30/09/2026
14:00
Auditório Luiz Antônio Fávaro
Palestrante: Núbia Ventura
Responsável: Fábio Lobato (fabio.lobato@icmc.usp.br)
Seminários em Computação
Resumo
O que caracteriza um bom modelo de IA em áreas específicas, como o Direito e a saúde? Tradicionalmente, a avaliação técnica se concentra no desempenho do sistema: quanto ele erra, como erra e com que eficiência executa a tarefa. Essas medidas, porém, não revelam se o problema foi corretamente formulado, se os dados e rótulos representam a realidade, quem suportará cada tipo de erro ou quais valores orientam o que o sistema considera justo e eficiente. Tomando o Poder Judiciário como laboratório, a palestra discute como decisões de valor podem permanecer ocultas em escolhas apresentadas como exclusivamente técnicas, e como os debates sobre fairness e alinhamento fazem a ética deixar de ser princípio abstrato para integrar cada etapa do desenvolvimento, da construção dos dados à escolha das métricas.
A discussão parte de casos concretos, de experiências em projetos com tribunais e das questões investigadas no pós-doutorado realizado no ICMC/USP, chegando a como a LGPD e normas setoriais transformam escolhas antes implícitas em obrigações de finalidade, transparência e governança. A palestra propõe que o desenvolvimento de IA não pode mais ser tratado como tarefa técnica isolada: conhecer o domínio, questionar categorias e antecipar impactos são responsabilidade também do próprio trabalho computacional.
