Anthropic проводит агрегированный, сохраняющий конфиденциальность анализ данных для получения понимания реального воздействия систем ИИ и моделей использования наших продуктов, при этом строго соблюдая конфиденциальность пользователей и секретность чувствительной информации. Одним из примеров нашего подхода является Clio — система, которая позволяет нам понимать важные тенденции и поведение без ущерба для индивидуальной конфиденциальности или секретности клиентов.
Когда мы используем Clio для исследовательских целей или для анализа того, как наши продукты используются в совокупности, система:
Автоматически анонимизирует и агрегирует информацию, извлекая только общие закономерности и тенденции, исключая частные или чувствительные детали
Применяет множественные меры защиты конфиденциальности, включая минимальные пороги агрегации и автоматическую проверку для обеспечения того, чтобы результаты не раскрывали информацию об отдельных лицах или небольших группах клиентов
Не предоставляет сотрудникам Anthropic доступа к необработанным пользовательским разговорам или данным, специфичным для клиентов
Фокусирует все выводы только на широких, агрегированных закономерностях, никогда не анализируя поведение какого-либо конкретного человека или клиента
Мы провели обширное тестирование, аудит и бенчмаркинг для подтверждения того, что выходные данные Clio не содержат идентифицируемой частной информации при использовании для этих целей. Для получения подробной информации об архитектуре Clio и наших строгих оценках конфиденциальности, пожалуйста, ознакомьтесь с нашей исследовательской работой.
Для дальнейшего продвижения нашей миссии мы также можем делиться агрегированными, сохраняющими конфиденциальность выводами о том, как используются наши системы ИИ, с внешней аудиторией или с общественностью. Clio реализует тщательные пороги агрегации, которые требуют, чтобы каждый вывод представлял значимое разнообразие пользователей и входных данных, что защищает от идентификации конкретных моделей использования отдельного человека.
Как описано в нашей исследовательской работе, мы также используем другую версию Clio для улучшения наших систем безопасности. Результаты от запусков Clio, ориентированных на безопасность, могут быть связаны с отдельными аккаунтами. Мы устанавливаем строгие меры контроля доступа, чтобы ограничить круг лиц, которые могут просматривать эти результаты, небольшим числом уполномоченных сотрудников.