Anthropicは、AIシステムの実世界への影響と当社製品の使用パターンについての洞察を得るために、ユーザーのプライバシーと機密情報の秘密性を厳密に維持しながら、データのプライバシーを保護した集計分析を行っています。このアプローチの一例がClioで、個人のプライバシーや顧客の機密性を損なうことなく、重要なトレンドや行動を理解することを可能にするシステムです。
研究目的や製品の使用状況を集計して分析する際にClioを使用する場合、このシステムは以下のことを行います：
情報を自動的に匿名化し集計し、プライベートまたは機密性の高い詳細を省略しながら、一般的なパターンやトレンドのみを抽出します
最小集計閾値や、結果が個人や少数の顧客グループに関する情報を明らかにしないことを保証する自動検証など、複数のプライバシー保護措置を適用します
Anthropicの従業員が生のユーザー会話や顧客固有のデータにアクセスすることはできません
すべての洞察は広範な集計パターンのみに焦点を当て、特定の個人や顧客の行動を分析することは決してありません
これらの目的でClioを使用した場合、その出力に識別可能な個人情報が含まれていないことを検証するために、広範なテスト、監査、ベンチマーキングを実施しています。Clioのアーキテクチャと厳格なプライバシー評価に関する詳細情報については、当社の研究論文をご覧ください。
さらに当社のミッションを推進するために、AIシステムがどのように使用されているかについて、プライバシーを保護した集計的な洞察を外部の聴衆や一般に公開することもあります。Clioは、各洞察が意味のあるユーザーと入力の多様性を表すことを要求する慎重な集計閾値を実装しており、これにより個人の特定の使用パターンの識別を防いでいます。
当社の研究論文で説明されているように、安全システムを改善するために異なるバージョンのClioも使用しています。安全性に焦点を当てたClioの実行結果は、個々のアカウントに紐付けることができます。これらの結果を閲覧できる人を少数の許可されたスタッフに制限するため、厳格なアクセス制御を設けています。