Anthropic은 AI 시스템의 실제 영향과 제품 사용 패턴에 대한 통찰을 얻기 위해 데이터의 집계된 개인정보 보호 분석을 수행하면서 사용자 개인정보와 민감한 정보의 기밀성을 엄격히 유지합니다. 우리의 접근 방식의 한 예는 Clio로, 이는 개인 프라이버시나 고객 기밀성을 훼손하지 않으면서 중요한 트렌드와 행동을 이해할 수 있게 해주는 시스템입니다.
연구 목적이나 제품 사용 방식을 종합적으로 분석하기 위해 Clio를 사용할 때, 이 시스템은:
정보를 자동으로 익명화하고 집계하여 개인적이거나 민감한 세부 사항은 생략한 채 일반적인 패턴과 트렌드만 추출합니다
최소 집계 임계값과 결과가 개인이나 소규모 고객 그룹에 대한 정보를 노출하지 않도록 하는 자동 검증을 포함한 여러 개인정보 보호 장치를 적용합니다
Anthropic 직원들이 원시 사용자 대화나 고객별 데이터에 접근할 수 없도록 합니다
모든 통찰은 광범위한 집계 패턴에만 초점을 맞추며, 특정 개인이나 고객의 행동을 절대 분석하지 않습니다
우리는 이러한 목적으로 사용될 때 Clio의 출력물에 식별 가능한 개인 정보가 포함되지 않음을 검증하기 위해 광범위한 테스트, 감사, 벤치마킹을 수행했습니다. Clio의 아키텍처와 우리의 엄격한 개인정보 보호 평가에 대한 자세한 정보는 우리의 연구 논문을 참조하십시오.
우리의 미션을 더욱 발전시키기 위해, 우리는 AI 시스템이 어떻게 사용되고 있는지에 대한 집계된, 개인정보를 보호하는 통찰을 외부 청중이나 대중과 공유할 수도 있습니다. Clio는 각 통찰이 의미 있는 다양성의 사용자와 입력을 대표하도록 요구하는 신중한 집계 임계값을 구현하여, 개인의 특정 사용 패턴이 식별되는 것을 방지합니다.
우리의 연구 논문에 설명된 대로, 우리는 또한 Clio의 다른 버전을 사용하여 안전 시스템을 개선합니다. 안전에 초점을 맞춘 Clio 실행의 결과는 개별 계정으로 연결될 수 있습니다. 우리는 이러한 결과를 볼 수 있는 권한을 소수의 승인된 직원으로 제한하는 엄격한 접근 제어를 실시합니다.