Anthropic führt aggregierte, datenschutzwahrende Analysen von Daten durch, um Einblicke in die realen Auswirkungen von KI-Systemen und die Nutzungsmuster unserer Produkte zu gewinnen, während wir gleichzeitig streng die Privatsphäre der Nutzer und die Vertraulichkeit sensibler Informationen wahren. Ein Beispiel für unseren Ansatz ist Clio, ein System, das es uns ermöglicht, wichtige Trends und Verhaltensweisen zu verstehen, ohne die individuelle Privatsphäre oder Kundenkonfidentialität zu gefährden.
Wenn wir Clio für Forschungszwecke oder zur Analyse der aggregierten Nutzung unserer Produkte verwenden, führt das System folgende Maßnahmen durch:
Automatische Anonymisierung und Aggregierung von Informationen, wobei nur allgemeine Muster und Trends extrahiert werden, während private oder sensible Details weggelassen werden
Anwendung mehrerer Datenschutzmaßnahmen, einschließlich minimaler Aggregierungsschwellenwerte und automatisierter Verifizierung, um sicherzustellen, dass die Ergebnisse keine Informationen über Einzelpersonen oder kleine Kundengruppen preisgeben
Gewährung keines Zugangs für Anthropic-Mitarbeiter zu rohen Nutzergesprächen oder kundenspezifischen Daten
Fokussierung aller Erkenntnisse ausschließlich auf breite, aggregierte Muster, ohne jemals das Verhalten einer bestimmten Person oder eines bestimmten Kunden zu analysieren
Wir haben umfangreiche Tests, Prüfungen und Benchmarking durchgeführt, um zu validieren, dass Clios Ausgaben keine identifizierbaren privaten Informationen enthalten, wenn sie für diese Zwecke verwendet werden. Für detaillierte Informationen über Clios Architektur und unsere rigorosen Datenschutzevaluierungen lesen Sie bitte unser Forschungspapier.
Um unsere Mission weiter voranzutreiben, können wir auch aggregierte, datenschutzwahrende Erkenntnisse darüber, wie unsere KI-Systeme genutzt werden, mit externen Zielgruppen oder der Öffentlichkeit teilen. Clio implementiert sorgfältige Aggregierungsschwellenwerte, die erfordern, dass jede Erkenntnis eine bedeutsame Vielfalt von Nutzern und Eingaben repräsentiert, was vor der Identifizierung spezifischer Nutzungsmuster einer Person schützt.
Wie in unserem Forschungspapier beschrieben, verwenden wir auch eine andere Version von Clio zur Verbesserung unserer Sicherheitssysteme. Die Ergebnisse aus sicherheitsfokussierten Clio-Durchläufen können zu individuellen Konten zurückverfolgt werden. Wir haben strenge Zugangskontrollen eingerichtet, um die Anzahl der autorisierten Mitarbeiter, die diese Ergebnisse einsehen können, auf eine kleine Gruppe zu begrenzen.