Anthropic проводит агрегированный, сохраняющий конфиденциальность анализ данных для получения понимания реального воздействия систем ИИ и паттернов использования наших продуктов, при этом строго соблюдая конфиденциальность пользователей и секретность чувствительной информации. Одним из примеров нашего подхода является Clio — система, которая позволяет нам понимать важные тенденции и поведение без ущерба для индивидуальной конфиденциальности или секретности клиентов.
Когда мы используем Clio в исследовательских целях или для анализа того, как наши продукты используются в совокупности, система:
Автоматически анонимизирует и агрегирует информацию, извлекая только общие паттерны и тенденции, исключая при этом частные или чувствительные детали
Применяет множественные меры защиты конфиденциальности, включая минимальные пороги агрегации и автоматическую проверку для обеспечения того, что результаты не раскрывают информацию об отдельных лицах или небольших группах клиентов
Не предоставляет сотрудникам Anthropic доступа к необработанным пользовательским разговорам или данным, специфичным для клиентов
Фокусирует все инсайты только на широких, агрегированных паттернах, никогда не анализируя поведение какого-либо конкретного человека или клиента
Мы провели обширное тестирование, аудит и бенчмаркинг для подтверждения того, что выходные данные Clio не содержат идентифицируемой частной информации при использовании для этих целей. Для получения подробной информации об архитектуре Clio и наших строгих оценках конфиденциальности, пожалуйста, ознакомьтесь с нашей исследовательской работой.
Для дальнейшего продвижения нашей миссии мы также можем делиться агрегированными, сохраняющими конфиденциальность инсайтами о том, как используются наши системы ИИ, с внешней аудиторией или с общественностью. Clio реализует тщательные пороги агрегации, которые требуют, чтобы каждый инсайт представлял значимое разнообразие пользователей и входных данных, что защищает от идентификации конкретных паттернов использования отдельного человека.
Как описано в нашей исследовательской работе, мы также используем другую версию Clio для улучшения наших систем безопасности. Результаты запусков Clio, ориентированных на безопасность, могут быть связаны с отдельными аккаунтами. Мы устанавливаем строгий контроль доступа, чтобы ограничить возможность просмотра этих результатов небольшим числом уполномоченных сотрудников.