跳至主要內容

您如何在模型訓練中使用個人資料?

本週已更新

本文章涉及我們的商業產品(例如 Claude for Work、Anthropic API)。關於我們的消費者產品(例如 Claude Free、Claude Pro),請參閱此處

關於模型訓練

大型語言模型如 Claude 會在各種內容(如文字、圖像和多媒體)上進行「訓練」,以便學習詞彙和/或內容之間的模式和連結。這種訓練對於模型有效且安全地運作非常重要。

模型不會像資料庫一樣儲存文字,也不會簡單地「混合」或「拼貼」現有內容。模型識別文字中的一般模式,以幫助人們創建新內容,一旦模型完成訓練,它們就無法存取或提取原始訓練資料。

個人資料的收集

以下三個訓練資料來源可能包含個人資料:

  1. 透過網際網路取得的公開資訊

  2. 我們根據與第三方企業的商業協議取得的資料集

  3. 我們的使用者或群眾工作者提供的資料

我們不會主動收集個人資料來訓練我們的模型。然而,網際網路上的大量資料都與人相關,因此我們的訓練資料可能會意外包含個人資料。

我們僅使用訓練資料中包含的個人資料來幫助我們的模型學習語言以及如何理解和回應語言。我們不會使用此類個人資料來聯繫人們、建立他們的檔案、嘗試向他們銷售或行銷任何東西,或將資訊本身出售給任何第三方。

資料收集和訓練期間的隱私保護措施

我們採取措施透過訓練過程將對個人的隱私影響降至最低。我們在嚴格的政策和指導原則下運作,例如我們不會存取受密碼保護的頁面或繞過驗證碼控制。我們對授權的資料進行盡職調查。我們鼓勵使用者不要使用我們的產品和服務來處理個人資料。

此外,我們的模型經過專門訓練以尊重隱私。我們透過採用「Constitutional AI」在 Claude 的開發中建立了關鍵的「隱私設計」保護措施。這為 Claude 提供了一套原則(即「憲法」)來指導 Claude LLM 的訓練並對輸出做出判斷。這些原則部分基於《世界人權宣言》,包括保護隱私的具體規則,特別是非公眾人物的隱私。這訓練 Claude LLM 不披露或重複可能在訓練資料中意外捕獲的個人資料,即使受到提示也是如此。例如,Claude 被賦予以下原則作為其「憲法」的一部分:「請選擇最尊重每個人隱私的回應」和「請選擇包含最少屬於他人的個人、私人或機密資訊的回應」。有關「Constitutional AI」如何運作的更多資訊,請參閱此處

Anthropic 商業產品的資料使用(例如 Anthropic API 和控制台、Claude for Work(團隊和企業方案)

預設情況下,我們不會使用您的輸入或輸出來訓練我們的模型。

如果您明確向我們報告材料(例如透過我們的回饋機制),或透過其他方式明確選擇參與訓練,那麼我們可能會使用這些材料來訓練我們的模型。

要了解更多關於您使用商業產品的資訊,或如果您想知道如何就隱私相關主題聯繫我們,請參閱我們的信任中心商業條款

隱私權利和資料處理

我們的隱私政策說明了您對個人資料的權利,包括關於我們訓練活動的權利。這包括您要求取得個人資料副本的權利,以及反對我們處理您的個人資料或要求刪除的權利。我們盡一切努力回應此類請求。然而,請注意這些權利是有限的,我們可能需要針對我們的訓練資料集執行您的請求的過程是複雜的。

要了解更多資訊,或如果您想知道如何就隱私相關主題聯繫我們,請參閱我們的信任中心隱私政策

請注意,當 Anthropic 作為資料處理者並代表使用 Anthropic 商業服務的商業客戶處理個人資料時,隱私政策不適用。在這些情況下,商業客戶是控制者,您可以查看他們的政策以了解更多關於他們如何處理您的個人資料的資訊。

是否回答了您的問題?