Anthropic esegue analisi aggregate e rispettose della privacy dei dati per ottenere informazioni sugli impatti nel mondo reale dei sistemi di IA e sui modelli di utilizzo dei nostri prodotti, mantenendo rigorosamente la privacy degli utenti e la riservatezza delle informazioni sensibili. Un esempio del nostro approccio è Clio, un sistema che ci permette di comprendere tendenze e comportamenti importanti senza compromettere la privacy individuale o la riservatezza dei clienti.
Quando utilizziamo Clio per scopi di ricerca o per analizzare come i nostri prodotti vengono utilizzati in aggregato, il sistema:
Anonimizza e aggrega automaticamente le informazioni, estraendo solo modelli e tendenze generali mentre omette dettagli privati o sensibili
Applica molteplici salvaguardie della privacy, incluse soglie minime di aggregazione e verifiche automatizzate per garantire che i risultati non rivelino informazioni su individui o piccoli gruppi di clienti
Non fornisce alcun accesso ai dipendenti di Anthropic alle conversazioni grezze degli utenti o ai dati specifici dei clienti
Concentra tutte le informazioni solo su modelli aggregati ampi, senza mai analizzare il comportamento di alcun individuo o cliente specifico
Abbiamo condotto test, audit e benchmarking estensivi per validare che gli output di Clio non contengano informazioni private identificabili quando utilizzato per questi scopi. Per informazioni dettagliate sull'architettura di Clio e sulle nostre rigorose valutazioni della privacy, si prega di consultare il nostro documento di ricerca.
Per promuovere ulteriormente la nostra missione, potremmo anche condividere informazioni aggregate e rispettose della privacy su come i nostri sistemi di IA vengono utilizzati con un pubblico esterno o con il pubblico in generale. Clio implementa attente soglie di aggregazione che richiedono che ogni informazione rappresenti una significativa diversità di utenti e input, il che protegge dall'identificazione dei modelli di utilizzo specifici di un individuo.
Come descritto nel nostro documento di ricerca, utilizziamo anche una versione diversa di Clio per migliorare i nostri sistemi di sicurezza. I risultati delle esecuzioni di Clio focalizzate sulla sicurezza possono essere collegati a singoli account. Mettiamo in atto rigorosi controlli di accesso per limitare chi può visualizzare questi risultati a un piccolo numero di personale autorizzato.