Anthropic führt aggregierte, datenschutzfreundliche Analysen von Daten durch, um Erkenntnisse über die realen Auswirkungen von KI-Systemen und die Nutzungsmuster unserer Produkte zu gewinnen, während gleichzeitig die Privatsphäre der Nutzer und die Vertraulichkeit sensibler Informationen streng gewahrt werden. Ein Beispiel für unseren Ansatz ist Clio, ein System, das es uns ermöglicht, wichtige Trends und Verhaltensweisen zu verstehen, ohne die Privatsphäre des Einzelnen oder die Vertraulichkeit der Kunden zu gefährden.
Wenn wir Clio für Forschungszwecke oder zur Analyse der aggregierten Nutzung unserer Produkte einsetzen, erfüllt das System folgende Funktionen:
Es anonymisiert und aggregiert Informationen automatisch und extrahiert nur allgemeine Muster und Trends, während private oder sensible Details ausgelassen werden
Es wendet mehrere Datenschutzvorkehrungen an, einschließlich minimaler Aggregationsschwellen und automatisierter Überprüfung, um sicherzustellen, dass die Ergebnisse keine Informationen über Einzelpersonen oder kleine Kundengruppen preisgeben
Es gewährt Anthropic-Mitarbeitern keinen Zugang zu rohen Nutzergesprächen oder kundenspezifischen Daten
Es konzentriert alle Erkenntnisse ausschließlich auf breite, aggregierte Muster und analysiert niemals das Verhalten einzelner Personen oder Kunden
Wir haben umfangreiche Tests, Audits und Benchmarks durchgeführt, um zu validieren, dass die Ausgaben von Clio bei der Verwendung für diese Zwecke keine identifizierbaren privaten Informationen enthalten. Detaillierte Informationen zur Architektur von Clio und unseren strengen Datenschutzevaluierungen finden Sie in unserem Forschungspapier.
Um unsere Mission weiter voranzutreiben, können wir auch aggregierte, datenschutzfreundliche Erkenntnisse darüber, wie unsere KI-Systeme genutzt werden, mit externem Publikum oder der Öffentlichkeit teilen. Clio implementiert sorgfältige Aggregationsschwellen, die erfordern, dass jede Erkenntnis eine bedeutsame Vielfalt von Nutzern und Eingaben repräsentiert, was vor der Identifizierung spezifischer Nutzungsmuster einzelner Personen schützt.
Wie in unserem Forschungspapier beschrieben, verwenden wir auch eine andere Version von Clio, um unsere Sicherheitssysteme zu verbessern. Die Ergebnisse von sicherheitsfokussierten Clio-Durchläufen können mit einzelnen Konten verknüpft werden. Wir haben strenge Zugriffskontrollen eingerichtet, um die Anzahl der Mitarbeiter, die diese Ergebnisse einsehen können, auf eine kleine Gruppe autorisierter Personen zu beschränken.