Anthropic melakukan analisis data yang diagregasi dan menjaga privasi untuk mendapatkan wawasan tentang dampak nyata sistem AI dan pola penggunaan produk kami sambil secara ketat menjaga privasi pengguna dan kerahasiaan informasi sensitif. Salah satu contoh pendekatan kami adalah Clio, sebuah sistem yang memungkinkan kami memahami tren dan perilaku penting tanpa mengorbankan privasi individu atau kerahasiaan pelanggan.
Ketika kami menggunakan Clio untuk tujuan penelitian atau untuk menganalisis bagaimana produk kami digunakan secara agregat, sistem tersebut:
Secara otomatis menganonimkan dan mengagregasi informasi, hanya mengekstrak pola dan tren umum sambil menghilangkan detail pribadi atau sensitif
Menerapkan beberapa perlindungan privasi, termasuk ambang batas agregasi minimum dan verifikasi otomatis untuk memastikan hasilnya tidak mengungkapkan informasi tentang individu atau kelompok kecil pelanggan
Tidak memberikan akses kepada karyawan Anthropic terhadap percakapan pengguna mentah atau data spesifik pelanggan
Memfokuskan semua wawasan hanya pada pola agregat yang luas, tidak pernah menganalisis perilaku individu atau pelanggan tertentu
Kami telah melakukan pengujian, audit, dan pengukuran yang ekstensif untuk memvalidasi bahwa output Clio tidak mengandung informasi pribadi yang dapat diidentifikasi ketika digunakan untuk tujuan-tujuan ini. Untuk informasi terperinci tentang arsitektur Clio dan evaluasi privasi kami yang ketat, silakan lihat makalah penelitian kami.
Untuk lebih memajukan misi kami, kami juga mungkin membagikan wawasan agregat yang menjaga privasi tentang bagaimana sistem AI kami digunakan kepada audiens eksternal atau publik. Clio menerapkan ambang batas agregasi yang cermat yang mengharuskan setiap wawasan mewakili keragaman pengguna dan input yang bermakna, yang melindungi terhadap identifikasi pola penggunaan spesifik individu.
Seperti yang dijelaskan dalam makalah penelitian kami, kami juga menggunakan versi Clio yang berbeda untuk meningkatkan sistem keamanan kami. Hasil dari penggunaan Clio yang berfokus pada keamanan dapat dihubungkan kembali ke akun individu. Kami menerapkan kontrol akses yang ketat untuk membatasi siapa yang dapat melihat hasil ini hanya pada sejumlah kecil staf yang berwenang.