Anthropic realiza análisis agregados que preservan la privacidad de los datos para obtener información sobre los impactos del mundo real de los sistemas de IA y los patrones de uso de nuestros productos, manteniendo rigurosamente la privacidad del usuario y la confidencialidad de la información sensible. Un ejemplo de nuestro enfoque es Clio, un sistema que nos permite entender tendencias y comportamientos importantes sin comprometer la privacidad individual o la confidencialidad del cliente.
Cuando usamos Clio para fines de investigación o para analizar cómo se están usando nuestros productos de manera agregada, el sistema:
Anonimiza y agrega automáticamente la información, extrayendo solo patrones y tendencias generales mientras omite detalles privados o sensibles
Aplica múltiples salvaguardas de privacidad, incluyendo umbrales mínimos de agregación y verificación automatizada para asegurar que los resultados no revelen información sobre individuos o pequeños grupos de clientes
No proporciona acceso a los empleados de Anthropic a conversaciones de usuarios sin procesar o datos específicos de clientes
Enfoca todas las perspectivas únicamente en patrones amplios y agregados, nunca analizando el comportamiento de ningún individuo o cliente específico
Hemos realizado pruebas, auditorías y evaluaciones comparativas extensas para validar que las salidas de Clio no contienen información privada identificable cuando se usa para estos propósitos. Para información detallada sobre la arquitectura de Clio y nuestras evaluaciones rigurosas de privacidad, consulte nuestro artículo de investigación.
Para avanzar aún más en nuestra misión, también podemos compartir perspectivas agregadas que preservan la privacidad sobre cómo se están usando nuestros sistemas de IA con audiencias externas o con el público. Clio implementa umbrales de agregación cuidadosos que requieren que cada perspectiva represente una diversidad significativa de usuarios y entradas, lo que protege contra la identificación de los patrones de uso específicos de un individuo.
Como se describe en nuestro artículo de investigación, también usamos una versión diferente de Clio para mejorar nuestros sistemas de seguridad. Los resultados de las ejecuciones de Clio enfocadas en seguridad pueden vincularse de vuelta a cuentas individuales. Implementamos controles de acceso estrictos para limitar quién puede ver estos resultados a un pequeño número de personal autorizado.