Anthropic проводит агрегированный, защищающий конфиденциальность анализ данных для получения информации о реальном влиянии систем искусственного интеллекта и моделях использования наших продуктов, при этом строго соблюдая конфиденциальность пользователей и конфиденциальность важной информации. Одним из примеров нашего подхода является Clio, система, которая позволяет нам понимать важные тенденции и поведение без ущерба для индивидуальной конфиденциальности или конфиденциальности клиентов.
Когда мы используем Clio для исследовательских целей или для анализа того, как наши продукты используются в совокупности, система:
Автоматически анонимизирует и агрегирует информацию, извлекая только общие закономерности и тенденции, опуская при этом личные или конфиденциальные детали
Применяет множественные меры защиты конфиденциальности, включая минимальные пороги агрегации и автоматизированную проверку, чтобы гарантировать, что результаты не раскрывают информацию об отдельных лицах или небольших группах клиентов
Не предоставляет сотрудникам Anthropic доступа к необработанным разговорам пользователей или данным конкретных клиентов
Фокусирует все выводы только на широких, агрегированных закономерностях, никогда не анализируя поведение конкретного человека или клиента
Мы провели обширное тестирование, аудит и сравнительный анализ, чтобы подтвердить, что результаты Clio не содержат идентифицируемой личной информации при использовании в этих целях. Подробную информацию об архитектуре Clio и наших строгих оценках конфиденциальности можно найти в нашей исследовательской статье.
Для дальнейшего продвижения нашей миссии мы также можем делиться агрегированными, защищающими конфиденциальность выводами о том, как используются наши системы искусственного интеллекта, с внешней аудиторией или общественностью. Clio реализует тщательные пороги агрегации, которые требуют, чтобы каждый вывод представлял значимое разнообразие пользователей и входных данных, что защищает от идентификации конкретных моделей использования отдельного человека.
Как описано в нашей исследовательской статье, мы также используем другую версию Clio для улучшения наших систем безопасности. Результаты запусков Clio, ориентированных на безопасность, могут быть связаны с отдельными учетными записями. Мы внедрили строгие меры контроля доступа, чтобы ограничить просмотр этих результатов небольшим числом уполномоченных сотрудников.