O Departamento de Engenharia Informática (DEI) do Instituto Superior de Engenharia do Porto (ISEP), numa iniciativa conjunta com o Mestrado em Engenharia de Inteligência Artificial (MEIA), convida à participação em mais uma AI Master Class, desta vez sobre o tema “Cibersegurança e Inteligência Artificial: Melhoria da Segurança de modelos de Machine Learning”, que terá lugar no dia 30 de Novembro, pelas 18h00.
Existem vários desafios tecnológicos e éticos que prejudicam a confiabilidade dos modelos de Machine Learning (ML). Um dos principais desafios é a falta de robustez, propriedade essencial para garantir que os modelos de ML sejam utilizados de forma segura. Melhorar a robustez não é uma tarefa fácil porque os modelos são inerentemente suscetíveis a exemplos adversários: amostras de dados com perturbações sutis que causam comportamentos inesperados. Os Engenheiros de ML e profissionais de segurança de ML ainda não possuem o conhecimento e as ferramentas para evitar tais interrupções, portanto, exemplos adversários representam uma grande ameaça ao ML e aos sistemas inteligentes que dele dependem.