Модераторы Stack Overflow стараются не допустить, чтобы мусорный контент AI заполонил сайт

Модераторы-добровольцы на Stack Overflow, популярном форуме разработчиков программного обеспечения, где разработчики программного обеспечения могут задавать вопросы и отвечать на них, организованном Stack Exchange, объявили всеобщую забастовку в связи с новой политикой компании в отношении контента, основанной на искусственном интеллекте, которая гласит, что весь контент, созданный с помощью GPT, теперь разрешен на сайте. и приостановка работы над контентом ИИ должна быть немедленно прекращена. Модераторы заявляют, что они обеспокоены тем вредом, который это может нанести, учитывая частые неточности информации чат-бота.

«Stack Overflow, Inc. издала практически полный запрет на модерацию контента, созданного искусственным интеллектом… молчаливо допуская распространение неверной информации («галлюцинации») и беспрепятственный плагиат в сети Stack Exchange», — говорится в открытом письме, написанном модераторами. , которые все являются добровольцами, избранными сообществом.

«Это представляет серьезную угрозу целостности и надежности платформы и ее контента. Немедленно мы объявляем общую модерацию Stack Overflow и сети Stack Exchange в знак протеста против этого и других недавних и предстоящих изменений в политике и платформа, которую нам навязывает Stack Overflow, Inc.»

Новая политика, принятая в конце мая, требует от модераторов прекратить модерацию контента, созданного ИИ, просто потому, что он создан ИИ. Однако без должной модерации контента, созданного искусственным интеллектом, модераторы говорят, что качество и точность информации Stack Exchange быстро снизятся.

«Чат-боты с искусственным интеллектом подобны попугаям», — говорится в сообщении модераторов Meta Stack Exchange, в котором подробно объясняются их требования. «Например, ChatGPT не понимает ответы, которые он вам дает; он просто связывает заданное приглашение с информацией, к которой у него есть доступ, и извергает правдоподобно звучащие предложения. У него нет возможности проверить, что ответы, которые он вам предоставляет, точны. . ChatGPT не является писателем, программистом, ученым, физиком или каким-либо другим экспертом, от которого наша сеть сайтов зависит в плане ценного контента. При появлении запроса он просто объединяет слова на основе информации, которую он прошел обучение. с. Он не понимает, что говорит».

Это, продолжает он, позволяет пользователям повторять ответы ChatGPT, не понимая их сами, что противоречит самой цели сайта: «Быть ​​хранилищем высококачественного контента вопросов и ответов».

Содержание новой политики в области ИИ представляет собой одну большую проблему. Во-вторых, по словам модераторов, это отсутствие прозрачности вокруг этого процесса. В сообщении они пишут, что в декабре на сайте была принята временная политика, запрещающая любое использование ChatGPT из-за его «общей неточности» и нарушений требований сайта к ссылкам. Эта политика была поддержана как модераторами-добровольцами, так и сотрудниками Stack Exchange, и привела к удалению многих сообщений и блокировке пользователей.

Однако 29 мая модераторы пишут, что в частном порядке была введена новая политика, требующая «немедленного прекращения блокировки контента, созданного ИИ, и прекращения модерации контента, созданного ИИ, только на этом основании». На следующий день для общественности была обнародована немного другая версия политики, без формулировки, требующей от модераторов прекратить ограничивать весь контент ИИ.

«Новая политика отвергла сложившийся консенсус сообщества и предыдущую поддержку CM, не обсуждалась ни с одним из членов сообщества, была представлена ​​модераторам в заблуждении, а затем еще более вводя в заблуждение публично, и основана на необоснованных утверждениях, полученных в результате непроверенного и непроверяемого анализа данных», — заявили в комитете. Читается сообщение Meta Stack Exchange.

Он продолжает: «Тот факт, что вы высказали одну точку зрения приватно и одну публично, которые столь существенно различаются, поставил модераторов в безвыходную ситуацию и сделал их мишенью для обвинений в необоснованности и преувеличении эффекта новая политика».

Модераторы также требуют улучшений сайта, не связанных с искусственным интеллектом. «Забастовка также во многом связана с моделью поведения, недавно продемонстрированной Stack Exchange, Inc», — говорится в сообщении. «Компания в очередной раз проигнорировала потребности и установила консенсус своего сообщества, вместо этого сосредоточившись на поворотах бизнеса за счет собственных менеджеров сообщества». Одним из примеров, который они приводят, является функция чата, которая, по их словам, отчаянно устарела, но игнорировалась в течение многих лет.