A Privacy-Aware Approach to Chatbot Development in Conversation-Driven Development Environments
Chatbot, requisitos de privacidade, proteção de dados, segurança, desenvolvimento orientado por conversas
A crescente digitalização dos serviços tem levado à ampla adoção de chatbots em diversos domínios. Embora avanços recentes permitam o aprimoramento de modelos de chatbot por meio de ciclos automatizados de retroalimentação, a abordagem predominante ainda é o desenvolvimento orientado por conversas (CDD) — um processo em que interações reais com usuários são revisadas por humanos para melhorar o desempenho do chatbot. Apesar de essencial para manter a precisão e a relevância do sistema, o CDD levanta preocupações significativas de privacidade, uma vez que as conversas dos usuários frequentemente contêm dados pessoais sensíveis, inesperados e não estruturados. Este trabalho investiga os desafios de privacidade inerentes ao desenvolvimento e à gestão de chatbots em ambientes baseados em CDD. Nosso principal objetivo é propor uma arquitetura genérica, acompanhada de estratégias de preservação de privacidade, para apoiar o desenvolvimento de chatbots em conformidade com normas de privacidade. Para isso, realizamos uma revisão da literatura científica e cinzenta, a fim de caracterizar os chatbots, as práticas de CDD e os mecanismos de proteção de privacidade no desenvolvimento de software. Identificamos requisitos e técnicas de privacidade aplicáveis ao desenvolvimento de chatbots e, com base nesses achados, propomos uma arquitetura genérica projetada para incorporar princípios de privacidade desde a concepção (privacy-by-design) ao longo do ciclo de vida do CDD. Nossa contribuição reside em aproximar os campos da privacidade e da inteligência artificial conversacional, oferecendo tanto fundamentos teóricos quanto orientações práticas para o design de sistemas de chatbot conscientes da privacidade.