Banca de QUALIFICAÇÃO: JOAO LUCAS PINTO VASCONCELOS

Uma banca de QUALIFICAÇÃO de MESTRADO foi cadastrada pelo programa.
DISCENTE : JOAO LUCAS PINTO VASCONCELOS
DATA : 16/12/2025
HORA: 09:00
LOCAL: Teams
TÍTULO:

Uma Abordagem Baseada em Fuzzing para Verificação de Princípios Éticos em Sistemas de Inteligência Artificial no Contexto da Engenharia de Software

PALAVRAS-CHAVES:

Inteligência Artificial Ética,
Fuzzing Ético,
Transparência Algorítmica,
Justiça Algorítmica,
Responsabilidade em IA.

 

 

PÁGINAS: 92
RESUMO:

\textbf{Contexto:} A crescente adoção de sistemas baseados em Inteligência Artificial (IA) intensificou preocupações relacionadas à transparência, justiça e responsabilidade, especialmente diante de incidentes envolvendo vieses algorítmicos, decisões discriminatórias e dificuldades de auditabilidade. Embora diretrizes éticas e marcos regulatórios (como UNESCO, OECD e EU AI Act) forneçam princípios gerais, a literatura demonstra ausência de mecanismos técnicos capazes de operacionalizá-los ao longo do ciclo de vida do desenvolvimento de software, particularmente na fase de \textit{Testing}. \textbf{Objetivo:} Esta dissertação tem como objetivo desenvolver e avaliar um conjunto de \textit{fuzzing engines} automatizadas para verificar violações éticas associadas aos princípios de \textit{Transparency}, \textit{Fairness} e \textit{Accountability} em modelos de IA já implementados, contribuindo para a criação de ferramentas integráveis a fluxos reais de Engenharia de Software. \textbf{Método:} A pesquisa segue uma abordagem de \textit{Design Science Research} (DSR). Primeiro, um Mapeamento Sistemático da Literatura (2020--2025) foi conduzido para identificar princípios éticos predominantes e lacunas técnicas. Em seguida, os riscos éticos foram especificados, mapeados para técnicas adequadas de \textit{fuzzing} e implementados em três \textit{engines} modulares. Por fim, essas \textit{engines} serão avaliadas empiricamente por meio de campanhas de \textit{fuzzing} aplicadas a modelos comerciais e \textit{open-source}. \textbf{Resultados:} O mapeamento identificou \textit{Fairness}, \textit{Accountability} e \textit{Transparency} como os princípios mais abordados pela literatura e também os que apresentam o maior conjunto de abordagens de operacionalização. As lacunas encontradas apontam ausência de ferramentas automatizadas integráveis a ambientes reais, além de baixa cobertura da fase de \textit{Testing}. As engines propostas oferecerão mecanismos de geração automática de casos de teste, oráculos específicos por princípio e métricas de conformidade ética. Dos 11 riscos identificados na taxonomia, 6 são plenamente implementáveis via fuzzing automatizado e 5 não são implementáveis por esta abordagem, requerendo métodos complementares de avaliação.
\textbf{Conclusão:} Espera-se que os artefatos produzidos reduzam a distância entre diretrizes éticas abstratas e mecanismos práticos de verificação, possibilitem a detecção sistemática de falhas éticas em modelos de IA e contribuam para práticas mais robustas de governança, qualidade e auditoria em Engenharia de Software. Além disso, o trabalho avança o estado da arte ao propor uma abordagem automatizada e modular para testes éticos, respondendo lacunas identificadas no mapeamento sistemático.

 

MEMBROS DA BANCA:
Presidente - 1780217 - EDNA DIAS CANEDO
Interna - 1720223 - GENAINA NUNES RODRIGUES
Externa à Instituição - CARLA TACIANA LIMA LOURENÇO SILVA - UFPE
Externa à Instituição - EDILENE LÔBO - TSE