A Anthropic realiza análises agregadas e que preservam a privacidade dos dados para obter insights sobre os impactos no mundo real dos sistemas de IA e os padrões de uso de nossos produtos, mantendo rigorosamente a privacidade do usuário e a confidencialidade de informações sensíveis. Um exemplo de nossa abordagem é o Clio, um sistema que nos permite entender tendências e comportamentos importantes sem comprometer a privacidade individual ou a confidencialidade do cliente.
Quando usamos o Clio para fins de pesquisa ou para analisar como nossos produtos estão sendo usados de forma agregada, o sistema:
Anonimiza e agrega automaticamente as informações, extraindo apenas padrões e tendências gerais, omitindo detalhes privados ou sensíveis
Aplica múltiplas salvaguardas de privacidade, incluindo limites mínimos de agregação e verificação automatizada para garantir que os resultados não revelem informações sobre indivíduos ou pequenos grupos de clientes
Não fornece acesso aos funcionários da Anthropic a conversas brutas de usuários ou dados específicos de clientes
Concentra todos os insights apenas em padrões amplos e agregados, nunca analisando o comportamento de qualquer indivíduo ou cliente específico
Realizamos testes extensivos, auditorias e benchmarking para validar que as saídas do Clio não contêm informações privadas identificáveis quando usadas para esses fins. Para informações detalhadas sobre a arquitetura do Clio e nossas rigorosas avaliações de privacidade, consulte nosso artigo de pesquisa.
Para avançar ainda mais em nossa missão, também podemos compartilhar insights agregados e que preservam a privacidade sobre como nossos sistemas de IA estão sendo usados com públicos externos ou com o público em geral. O Clio implementa limites cuidadosos de agregação que exigem que cada insight represente uma diversidade significativa de usuários e entradas, o que protege contra a identificação dos padrões de uso específicos de um indivíduo.
Como descrito em nosso artigo de pesquisa, também usamos uma versão diferente do Clio para melhorar nossos sistemas de segurança. Os resultados das execuções do Clio focadas em segurança podem ser vinculados de volta a contas individuais. Implementamos controles de acesso rigorosos para limitar quem pode visualizar esses resultados a um pequeno número de funcionários autorizados.