Anthropic realiza análisis agregados y que preservan la privacidad de los datos para obtener información sobre los impactos en el mundo real de los sistemas de IA y los patrones de uso de nuestros productos, manteniendo rigurosamente la privacidad del usuario y la confidencialidad de la información sensible. Un ejemplo de nuestro enfoque es Clio, un sistema que nos permite comprender tendencias y comportamientos importantes sin comprometer la privacidad individual o la confidencialidad del cliente.
Cuando usamos Clio con fines de investigación o para analizar cómo se están utilizando nuestros productos en conjunto, el sistema:
Anonimiza y agrega automáticamente la información, extrayendo solo patrones y tendencias generales mientras omite detalles privados o sensibles
Aplica múltiples salvaguardas de privacidad, incluyendo umbrales mínimos de agregación y verificación automatizada para garantizar que los resultados no revelen información sobre individuos o pequeños grupos de clientes
No proporciona acceso a los empleados de Anthropic a conversaciones de usuarios sin procesar o datos específicos de clientes
Enfoca todas las percepciones solo en patrones amplios y agregados, nunca analizando el comportamiento de ningún individuo o cliente específico
Hemos realizado pruebas extensivas, auditorías y evaluaciones comparativas para validar que los resultados de Clio no contienen información privada identificable cuando se utiliza para estos propósitos. Para obtener información detallada sobre la arquitectura de Clio y nuestras rigurosas evaluaciones de privacidad, consulte nuestro artículo de investigación.
Para avanzar aún más en nuestra misión, también podemos compartir percepciones agregadas y que preservan la privacidad sobre cómo se están utilizando nuestros sistemas de IA con audiencias externas o con el público. Clio implementa cuidadosos umbrales de agregación que requieren que cada percepción represente una diversidad significativa de usuarios y entradas, lo que protege contra la identificación de los patrones de uso específicos de un individuo.
Como se describe en nuestro artículo de investigación, también utilizamos una versión diferente de Clio para mejorar nuestros sistemas de seguridad. Los resultados de las ejecuciones de Clio enfocadas en la seguridad pueden vincularse a cuentas individuales. Implementamos controles de acceso estrictos para limitar quién puede ver estos resultados a un pequeño número de personal autorizado.