Аннотация:
Согласно отчетам, опубликованным 404 Media, в рамках OpenAI действует проект под названием Project Lily: OpenAI нанимает сотни внешних рецензентов подсказок, которые вручную читают разговоры между реальными пользователями и ChatGPT, чтобы улучшить качество ответов.
Фильтр конфиденциальности есть, но он недостаточно тщательный:
Обычно рецензент не может видеть имя пользователя, и разговор сначала фильтруется через фильтр конфиденциальности для удаления личной информации. Однако OpenAI также признает, что механизм фильтрации может пропускать личную информацию, а короткие разговоры особенно подвержены проблемам.
Интерфейс проверки обычно также содержит сводку пользовательской памяти. В сводке памяти будут суммироваться прошлые вопросы, интересы, ситуации и т. д. пользователя. Иногда по памяти можно даже определить местоположение пользователя. Аудиторы часто видят весь разговор с контекстом.
Рецензент в основном оценивает ответы:
Работа описывалась как механическая и повторяющаяся, а почасовая оплата превышала 50 долларов США. Основная задача рецензента — оценивать ответы, а не проверять факты. Например, рецензенту необходимо судить, актуален ли ответ, данный моделью, имеет ли он явный привкус ИИ, есть ли проповедническое поведение, есть ли злоупотребление выражениями, есть ли льстивое поведение и напишет ли модель модель как человек с жизненным опытом.
Что касается того, содержат ли ответы, данные по модели, фактические ошибки, то это не задача аудитора. Ведь аудиторы не являются энциклопедиями и не могут знать полную правду обо всех событиях, поэтому пользователи обычно видят ответы, данные моделью, которые содержат фактические ошибки.
Улучшенная модель, включенная по умолчанию, является ключом к обмену данными:
Бесплатные версии ChatGPT, версии Plus и Pro по умолчанию позволяют использовать чат для улучшения продуктов. Когда эта функция включена, содержимое чата пользователя будет авторизовано OpenAI для улучшения продукта. Аутсорсинговые аудиторы в «Плане Лили» для проверки содержания разговоров — это только один из видов использования данных. Данные, естественно, будут использоваться для других целей, например, для продолжения обучения модели.
Многие пользователи используют ChatGPT в качестве временного доверенного лица, рассказывая о семье, здоровье и даже более личных вопросах. Некоторые рецензенты заявили, что многие пользователи могут не знать, что их разговоры могут читать реальные люди, поэтому подумайте, страшно ли это.
Комментарии