DocuSign тренирует ИИ на пользовательских документах — и даёт сомнительные гарантии конфиденциальности

Главный конкурент PandaDoc обещает использовать данные юзеров только с их согласия и в анонимизированном виде. Из них будет удаляться любая чувствительная информация о компаниях и людях. Обрабатывать их автономно без участия человека, что обеспечит приватность. Для обучения ИИ будут брать данные пользователей продукта Contract Lifecycle Management и отдельных пользователей eSignature.

Компания разрабатывает фирменную программу на базе опенсорсных моделей, которые кастомизирует под свои потребности. Данные пользователей, включая подписываемые контракты, помогут усовершенствовать её. Накануне DocuSign запустил функцию резюмирования договоров на базе генеративного ИИ.

Защитники приватности отмечают, что в FAQ не говорится, как именно компания будет получать согласие пользователей на применение их данных для обучения ИИ-алгоритмов. Отдельный вопрос — как DocuSign хранит их. А утверждение, что обработка происходит без участия человека 100% времени, для них выглядит сомнительно.