Anthropic führt aggregierte, datenschutzwahrende Analysen von Daten durch, um Einblicke in die realen Auswirkungen von KI-Systemen und die Nutzungsmuster unserer Produkte zu gewinnen, während gleichzeitig die Privatsphäre der Nutzer und die Vertraulichkeit sensibler Informationen streng gewahrt werden. Ein Beispiel für unseren Ansatz ist Clio, ein System, das es uns ermöglicht, wichtige Trends und Verhaltensweisen zu verstehen, ohne die individuelle Privatsphäre oder die Vertraulichkeit der Kunden zu gefährden.
Wenn wir Clio für Forschungszwecke oder zur Analyse der aggregierten Nutzung unserer Produkte verwenden, führt das System folgende Schritte durch:
Automatische Anonymisierung und Aggregierung von Informationen, wobei nur allgemeine Muster und Trends extrahiert werden, während private oder sensible Details weggelassen werden
Anwendung mehrerer Datenschutzmaßnahmen, einschließlich minimaler Aggregierungsschwellenwerte und automatisierter Verifizierung, um sicherzustellen, dass die Ergebnisse keine Informationen über Einzelpersonen oder kleine Kundengruppen preisgeben
Kein Zugang für Anthropic-Mitarbeiter zu unverarbeiteten Nutzergesprächen oder kundenspezifischen Daten
Fokussierung aller Erkenntnisse ausschließlich auf breite, aggregierte Muster, niemals Analyse des Verhaltens einer bestimmten Person oder eines bestimmten Kunden
Wir haben umfangreiche Tests, Audits und Benchmarks durchgeführt, um zu validieren, dass Clios Ausgaben keine identifizierbaren privaten Informationen enthalten, wenn sie für diese Zwecke verwendet werden. Für detaillierte Informationen über Clios Architektur und unsere rigorosen Datenschutzevaluierungen siehe bitte unser Forschungspapier.
Um unsere Mission weiter voranzutreiben, können wir auch aggregierte, datenschutzwahrende Erkenntnisse darüber, wie unsere KI-Systeme genutzt werden, mit externen Zielgruppen oder der Öffentlichkeit teilen. Clio implementiert sorgfältige Aggregierungsschwellenwerte, die erfordern, dass jede Erkenntnis eine bedeutsame Vielfalt von Nutzern und Eingaben repräsentiert, was vor der Identifizierung spezifischer Nutzungsmuster einer Person schützt.
Wie in unserem Forschungspapier beschrieben, verwenden wir auch eine andere Version von Clio zur Verbesserung unserer Sicherheitssysteme. Die Ergebnisse aus sicherheitsfokussierten Clio-Durchläufen können mit individuellen Konten verknüpft werden. Wir haben strenge Zugangskontrollen eingerichtet, um die Anzahl der autorisierten Mitarbeiter, die diese Ergebnisse einsehen können, auf eine kleine Gruppe zu begrenzen.