Anthropic esegue analisi aggregate e rispettose della privacy dei dati per ottenere informazioni sugli impatti nel mondo reale dei sistemi di IA e sui modelli di utilizzo dei nostri prodotti, mantenendo rigorosamente la privacy degli utenti e la riservatezza delle informazioni sensibili. Un esempio del nostro approccio è Clio, un sistema che ci consente di comprendere tendenze e comportamenti importanti senza compromettere la privacy individuale o la riservatezza dei clienti.
Quando utilizziamo Clio per scopi di ricerca o per analizzare come i nostri prodotti vengono utilizzati in modo aggregato, il sistema:
Anonimizza e aggrega automaticamente le informazioni, estraendo solo modelli e tendenze generali omettendo dettagli privati o sensibili
Applica molteplici salvaguardie per la privacy, incluse soglie minime di aggregazione e verifica automatizzata per garantire che i risultati non rivelino informazioni su individui o piccoli gruppi di clienti
Non fornisce accesso ai dipendenti di Anthropic alle conversazioni grezze degli utenti o ai dati specifici dei clienti
Concentra tutte le informazioni solo su modelli aggregati ampi, senza mai analizzare il comportamento di alcun individuo o cliente specifico
Abbiamo condotto test, audit e benchmark approfonditi per validare che gli output di Clio non contengano informazioni private identificabili quando utilizzato per questi scopi. Per informazioni dettagliate sull'architettura di Clio e sulle nostre rigorose valutazioni della privacy, si prega di consultare il nostro documento di ricerca.
Per promuovere ulteriormente la nostra missione, potremmo anche condividere informazioni aggregate e rispettose della privacy su come i nostri sistemi di IA vengono utilizzati con pubblici esterni o con il pubblico generale. Clio implementa soglie di aggregazione attente che richiedono che ogni informazione rappresenti una diversità significativa di utenti e input, il che protegge dall'identificazione dei modelli di utilizzo specifici di un individuo.
Come descritto nel nostro documento di ricerca, utilizziamo anche una versione diversa di Clio per migliorare i nostri sistemi di sicurezza. I risultati delle esecuzioni di Clio focalizzate sulla sicurezza possono essere collegati ai singoli account. Mettiamo in atto controlli di accesso rigorosi per limitare chi può visualizzare questi risultati a un piccolo numero di personale autorizzato.