O Diretor do ICMC, André Carlos Ponce de Leon Ferreira de Carvalho, abriu as palestras trazendo conceitos como otimização, meta-aprendizado, preocupações e técnicas avançadas de AutoML para uso responsável. Foto: Reinaldo Mizutani

Palestras de especialistas, oficinas práticas, aprimoramento e troca de conhecimentos foram alguns dos pilares da Escola Avançada em AutoML Responsável, sediada no Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, nos dias 18 e 19 de abril.

Promovido em parceria com a Universidade do Porto e uma série de apoiadores, o evento desempenha um papel crucial na atual era da inteligência artificial (IA), onde a automação do Aprendizado de Máquina (AutoML, do original em inglês Automated Machine Learning) está se tornando cada vez mais difundida e complexa.

A proposta dos organizadores foi oferecer uma imersão de aprendizado especializado que combina os avanços técnicos com a responsabilidade ética, preparando os participantes para enfrentar os desafios e, ao mesmo tempo, aproveitar as oportunidades emergentes neste campo dinâmico.

À medida que a automação de ML se torna mais difundida, surgem preocupações relacionadas a questões como viés algorítmico, privacidade de dados, transparência e equidade. Por intermédio de debates promovidos por cientistas que dedicam seus esforços em trabalhos relacionados a esses fins, foram debatidas as melhores práticas e ferramentas para que os sistemas sejam desenvolvidos e implantados de maneira responsável e justa.

No centro dos debates mundiais, o diretor do ICMC, André Carlos Ponce de Leon Ferreira de Carvalho, abriu as palestras trazendo conceitos como otimização, meta-aprendizado, preocupações e técnicas avançadas de AutoML para uso responsável. “Parabenizo os organizadores pelo evento e é motivo de satisfação que ocorra no ICMC, onde temos um núcleo de pesquisas bastante maduro na área de IA”, disse.

Moisés Rocha dos Santos é ex-aluno de doutorado de André e, atualmente, é pesquisador e professor convidado da Universidade do Porto, sendo um dos responsáveis pela parceria na organização do evento. Trabalha com IA para seleção de algoritmos, previsão de séries temporais e tem se dedicado à IA responsável. “A principal ideia dessa Escola era trazer pessoas que também estão pesquisando temas relacionados e juntar esforços, aproveitando a colaboração sólida que ICMC e Universidade do Porto mantêm há vários anos”, disse Moisés.

Ainda segundo ele, há poucos grupos se preocupando efetivamente com a inteligência artificial responsável. “Temos necessidades urgentes a serem tratadas, uma vez que esses sistemas estão presentes na vida da sociedade de diferentes formas. Os desenvolvedores precisam estar alinhados com as tecnologias que caminhem no sentido do bem-estar social, pois sabemos que as mesmas e avançadas ferramentas podem ser usadas de maneira responsável ou não”.

Modelos falhos podem levar a decisões enviesadas, problemáticas, que custam bastante para a empresa e para a sociedade. O grande desafio é: como programar isso? Como garantir responsabilidade e compromisso ético em um sistema artificial?

Carlos Soares, professor associado da Universidade do Porto, também dividiu seus conhecimentos na área e, na opinião dele, é preciso gerar tecnologias de controle sobre os impactos negativos. “As nossas discussões ao longo anos já têm sido pautadas por essa preocupação, e o evento nos permite sair daqui com ideias avançadas sobre mecanismos que nos ajudem a monitorar o perigo do mal-uso da IA. Se você tem um carro e ele te avisa que você precisa trocar o óleo do motor, por exemplo, foi criado um alerta. O que podemos fazer é construir modelos que mostrem as incertezas das tecnologias e, mesmo que essa pessoa não saiba resolver o problema, assim como um mecânico para o nosso carro, haverá um especialista para identificar a falha e direcional para uma solução responsável para a sociedade para diferentes problemas”.

A Escola também reuniu representantes de empresas, como Saulo Mastelini, que trabalha no mercado de energia e foi incentivado por seus gestores a participar.  “Trabalhamos com soluções de ponta, auditando dados e, essas decisões tomadas por meio de ferramentas automáticas, estão influenciando pessoas, receitas, etc. Estamos aplicando IA o tempo todo, temos que estar certos das metodologias eficientes e responsáveis. Existem leis de regulamentação, mas é dentro da universidade, referência como é o ICMC, que podemos estar em contato com os melhores conhecimentos e nos certificar de que estamos no caminho certo sobre os produtos oferecidos à população”, finalizou.

Texto: Raquel Vieira– Assessoria de Comunicação do ICMC-USP

Contato:
(19) 99199 8981 ou Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo.