IA e Cibersegurança: Conheça os projetos beneficiados pela parceria entre USP e Bradesco
Há 10 anos a USP e o Bradesco têm uma parceria de pesquisa conjunta, a qual foi recentemente ampliada para abranger uma combinação de temas que vem ganhando cada mais importância: Cibersegurança e Inteligência Artificial
Em 2024, o Centro de Inovação (InovaUSP) da USP inaugurou uma colaboração inédita com o Bradesco. Ao todo, estão sendo conduzidos quatro projetos, contando com a participação de cerca de 50 pesquisadores focados em compreender e resolver desafios de diferentes áreas de interesse do banco. Uma destas iniciativas é a “Adversarial Machine Learning”, ou “Aprendizado de Máquina Adversarial”, que tem como principal objetivo investigar e combater ataques cibernéticos gerados ou facilitados pela Inteligência Artificial.
O professor Marcos Simplício, docente do Departamento de Engenharia da Computação e Sistemas Digitais da Poli, é um dos pesquisadores do programa e afirma que a pesquisa desenvolvida tem como principal enfoque compreender e propor novos mecanismos de cibersegurança envolvendo a Inteligência Artificial.
“Mecanismos de IA baseados em aprendizado de máquina (por exemplo, a chamada “IA generativa”, que ganhou fama com o ChatGPT e similares) têm potencial para facilitar nossas vidas. Porém, a maioria das soluções são ainda extremamente imaturas em termos de cibersegurança”, aponta o professor. “Nesse sentido, a IA hoje não é muito diferente da Internet nos anos 1980 e 1990: a Internet revolucionou a forma pela qual interagimos com sistemas computacionais, mas também foi inicialmente projetada sem grandes preocupações de segurança.”, conclui.
O Bradesco, tendo percebido a natureza dessas questões e antecipando que haveria no mercado uma possível carência de ferramentas e até de conhecimento para tratá-las, decidiu investigá-las diretamente junto à academia.
Apesar de relativamente novo, esse tema tem adquirido importância no mundo todo à medida que algoritmos de IA são integrados nos mais variados sistemas de software. O intuito é garantir que os benefícios fornecidos pela integração de IA (o Aprendizado de Máquina, mais especificamente) em sistemas críticos não supere os riscos envolvidos.
As pesquisas estão em seus estágio iniciais, mas já esbarraram em desafios. Marcos Simplício conta que o principal impasse encontrado até o momento é a forma com que a IA se comporta. “A IA, especificamente os algoritmos de Aprendizado de Máquina, operam a partir da transformação de dados em “programas”. Esse processo, mais “empírico”, do que de fato “planejado”, dificulta a definição de requisitos de segurança, um dos princípios fundamentais para a construção de sistemas seguros”, afirmou.
Outra dificuldade apontada pelo professor é a escassez de trabalhos propondo técnicas para a construção de sistemas de IA mais seguros, que possam apoiar as pesquisas atuais. Em grande parte, os mecanismos atuais acabam sendo mais “remendos” do que soluções sistêmicas. Segundo Simplício, a pesquisa surge justamente para buscar soluções a estas lacunas e implementar testes para entender o desempenho e efetividade destes resultados.
“Todos os pilares do projeto têm por objetivo tornar sistemas de IA, em particular de IA generativa, mais robustos contra ataques. Para isso, a pesquisa inclui o entendimento dos pontos de ataque (também conhecido como “superfície de ataque”), em particular de ferramentas automatizadas para esse fim, e a proposta de soluções para prevenir esses ataques”, finaliza o professor.
O projeto é desenvolvido pela colaboração entre Laboratório de Arquitetura e Redes de Computadores (LARC) e o Centro de Inovação da Universidade de São Paulo (InovaUSP), que agora conta com a parceria do Bradesco.
