Anthropic effectue une analyse agrégée et respectueuse de la vie privée des données afin d'obtenir des informations sur les impacts réels des systèmes d'IA et les modèles d'utilisation de nos produits, tout en préservant rigoureusement la confidentialité des utilisateurs et des informations sensibles. Un exemple de notre approche est Clio, un système qui nous permet de comprendre les tendances et les comportements importants sans compromettre la vie privée individuelle ou la confidentialité des clients.
Lorsque nous utilisons Clio à des fins de recherche ou pour analyser l'utilisation globale de nos produits, le système :
Anonymise et agrège automatiquement les informations, en extrayant uniquement les tendances et les modèles généraux tout en omettant les détails privés ou sensibles
Applique de multiples garanties de confidentialité, y compris des seuils d'agrégation minimaux et une vérification automatisée pour s'assurer que les résultats ne révèlent pas d'informations sur des individus ou de petits groupes de clients
Ne donne aux employés d'Anthropic aucun accès aux conversations brutes des utilisateurs ou aux données spécifiques des clients
Concentre toutes les informations uniquement sur des modèles agrégés larges, sans jamais analyser le comportement d'un individu ou d'un client spécifique
Nous avons mené des tests, des audits et des évaluations approfondis pour valider que les résultats de Clio ne contiennent aucune information privée identifiable lorsqu'il est utilisé à ces fins. Pour des informations détaillées sur l'architecture de Clio et nos rigoureuses évaluations de confidentialité, veuillez consulter notre article de recherche.
Pour faire progresser davantage notre mission, nous pouvons également partager des informations agrégées et respectueuses de la vie privée sur l'utilisation de nos systèmes d'IA avec des publics externes ou avec le public. Clio met en œuvre des seuils d'agrégation soigneux qui exigent que chaque information représente une diversité significative d'utilisateurs et d'entrées, ce qui protège contre l'identification des modèles d'utilisation spécifiques d'un individu.
Comme décrit dans notre article de recherche, nous utilisons également une version différente de Clio pour améliorer nos systèmes de sécurité. Les résultats des analyses de Clio axées sur la sécurité peuvent être liés à des comptes individuels. Nous mettons en place des contrôles d'accès stricts pour limiter la visualisation de ces résultats à un petit nombre de membres du personnel autorisés.