Anthropic melakukan analisis data yang diagregasi dan menjaga privasi untuk memperoleh wawasan tentang dampak sistem AI di dunia nyata dan pola penggunaan produk kami sambil secara ketat mempertahankan privasi pengguna dan kerahasiaan informasi sensitif. Salah satu contoh pendekatan kami adalah Clio, sebuah sistem yang memungkinkan kami memahami tren dan perilaku penting tanpa mengorbankan privasi individu atau kerahasiaan pelanggan.
Ketika kami menggunakan Clio untuk tujuan penelitian atau untuk menganalisis bagaimana produk kami digunakan secara agregat, sistem ini:
Secara otomatis menganonimkan dan mengagregasi informasi, mengekstrak hanya pola dan tren umum sambil menghilangkan detail pribadi atau sensitif
Menerapkan berbagai perlindungan privasi, termasuk ambang batas agregasi minimum dan verifikasi otomatis untuk memastikan hasil tidak mengungkapkan informasi tentang individu atau kelompok kecil pelanggan
Tidak memberikan akses bagi karyawan Anthropic ke percakapan pengguna mentah atau data spesifik pelanggan
Memfokuskan semua wawasan hanya pada pola agregat yang luas, tidak pernah menganalisis perilaku individu atau pelanggan tertentu
Kami telah melakukan pengujian, audit, dan benchmarking yang ekstensif untuk memvalidasi bahwa output Clio tidak mengandung informasi pribadi yang dapat diidentifikasi ketika digunakan untuk tujuan ini. Untuk informasi detail tentang arsitektur Clio dan evaluasi privasi yang ketat, silakan lihat makalah penelitian kami.
Untuk lebih memajukan misi kami, kami juga dapat membagikan wawasan agregat yang menjaga privasi tentang bagaimana sistem AI kami digunakan dengan audiens eksternal atau dengan publik. Clio menerapkan ambang batas agregasi yang hati-hati yang mengharuskan setiap wawasan mewakili keragaman pengguna dan input yang bermakna, yang melindungi dari identifikasi pola penggunaan spesifik individu.
Sebagaimana dijelaskan dalam makalah penelitian kami, kami juga menggunakan versi Clio yang berbeda untuk meningkatkan sistem keamanan kami. Hasil dari operasi Clio yang berfokus pada keamanan dapat dikaitkan kembali ke akun individu. Kami menerapkan kontrol akses yang ketat untuk membatasi siapa yang dapat melihat hasil ini hanya kepada sejumlah kecil staf yang berwenang.