Inteligência Artificial Segura e Confiável para detecção precoce e análise de riscos em ambientes digitais heterogêneos
Inteligência Artificial; Cibersegurança; Detecção de Phishing; Cadeias de Suprimentos Éticas; Trabalho Análogo ao escravo; Inteligência Artificial Explicável; Segurança de Grandes Modelos de Linguagem
A crescente complexidade dos ambientes digitais tem ampliado a adoção de Inteligência Artificial (IA) para a identificação e avaliação de riscos e ameaças. No entanto, a efetividade dessas abordagens depende de sua capacidade de operar em condições heterogêneas de dados, contextos específicos de domínio e diferentes requisitos de interpretabilidade, confiabilidade e segurança. Esta dissertação investiga como métodos baseados em IA podem ser projetados e avaliados para apoiar a identificação e análise de riscos em três domínios distintos: detecção de phishing, análise de escravidão moderna em documentos jurídicos e avaliação de segurança de aplicações baseadas em Grandes Modelos de Linguagem (LLMs). O primeiro estudo investiga a detecção precoce de sites de phishing direcionados a organizações específicas. São avaliados modelos de Machine Learning (ML) utilizando domínios recém-registrados, e é proposto um framework reproduzível para detecção de phishing orientada à organização, abrangendo desde a coleta e preparação dos dados até a classificação. O segundo estudo investiga a análise de trabalho análogo ao escravo em cadeias de suprimentos baseada em IA. Para isso, é construído e curado, até onde é de nosso conhecimento, o primeiro dataset Inter jurisdicional composto por documentos judiciais dos Estados Unidos e da Índia. São também comparadas diversas técnicas de ML, incluindo abordagens de Deep Learning, modelos baseados em Transformers e LLMs em configuração zero-shot. Discute-se o potencial dessas abordagens para a descoberta de conhecimento e a due diligence em cadeias de suprimentos assistida por IA. Por fim, é proposto e avaliado experimentalmente, no estudo de caso, um método baseado em explicabilidade que combina SHAP e DiCE para identificar features potencialmente espúrias, com potencial aplicabilidade em grandes conjuntos de features, frequentes em classificadores de Processamento de Linguagem Natural (NLP). O terceiro estudo propõe Égide, um framework orientado a domínio para red teaming automatizado de aplicações corporativas baseadas em LLMs, particularmente agentes baseados em RAG e modelos finetuned. O framework combina ataques autônomos multi-turn, capacidades de integração Human-in-the-Loop e avaliação automatizada para testes de segurança contextualizados. O Égide é experimentado em ambientes laboratoriais. Casos de usos corporativos fundamentam a discussão sobre aplicabilidade prática e a comunicação de achados de segurança aos stakeholders