Модераторы-добровольцы Stack Overflow отключают инструменты из-за новой секретной политики, препятствующей удалению ИИ

Ряд модераторов Stack Overflow объявили «всеобщую забастовку модераторов» в знак протеста против указания не удалять контент, созданный ИИ, «за исключением чрезвычайно узких обстоятельств».

Две ключевые проблемы: во-первых, модераторы чувствуют себя неспособными эффективно выполнять свою роль по проверке качества из-за новой политики; и, во-вторых, эта политика была им навязана без надлежащих консультаций.

«Модераторам больше не разрешается удалять ответы, сгенерированные ИИ, на том основании, что они сгенерированы ИИ, за исключением чрезвычайно узких обстоятельств. Это приводит к тому, что фактически разрешается свободно публиковать почти все ответы, сгенерированные ИИ, независимо от сложившегося консенсуса сообщества по таким вопросам. контент», — заявили яркие модеры в открытом письме.

«Мы глубоко верим в основную миссию сети Stack Exchange: предоставить хранилище высококачественной информации в форме вопросов и ответов, и недавние действия, предпринятые Stack Overflow, Inc., прямо вредят этой цели», они добавили.

Сайт все еще работает, но объем спама и неотмеченного контента, вероятно, увеличится, особенно после того, как перестал работать инструмент SmokeDetector, разработанный волонтерской сетью Charcoal для StackOverflow для обнаружения спама. «Внимание: компания Charcoal участвует в общесетевой забастовке, поэтому будет закрыта до тех пор, пока эта политика в отношении ИИ не будет отменена», — говорится в сообщении в ветке обсуждения сайта.

DevClass поговорил с модератором из Норвегии Зои, которая входит в число подписавшихся. «На данный момент 15 из 24 активных модов на SO (если я правильно подсчитала) официально объявили забастовку, а у остальных просто нет шансов поспеть за объемами флагов», — сказала она нам.

Дело в том, что StackOverflow, похоже, изо всех сил пытается понять влияние инструментов искусственного интеллекта, таких как GitHub Copilot и ChatGPT, на свой сайт вопросов и ответов. Трафик упал. Первоначальной реакцией компании было запретить использование ChatGPT для публикации ответов на Stack Overflow с помощью «временной политики» с одобрения сообщества, но в официальном сообщении сотрудников также говорится, что «мы не приняли общесетевой общей политики в отношении запрет ChatGPT или другого контента, созданного искусственным интеллектом, в настоящее время необходим или полезен». Существует различие между Stack Overflow, сайтом разработчика, и Stack Exchange, семейством сайтов, охватывающих широкий спектр различных тем, хотя Stack Overflow является гораздо более загруженным.

На прошлой неделе генеральный директор Прашант Чандрасекар положительно отозвался о роли искусственного интеллекта в Stack Overflow и отметил, что «появление GenAI — это большая возможность для Stack. Примерно 10% нашей компании работает над функциями и приложениями, использующими GenAI, которые потенциально могут повысить вовлеченность». ." Чандрасекар писал о том, что «ИИ и сообщество находятся в центре»; но действия модераторов говорят о том, что комьюнити-аспект на данный момент под вопросом.

Поводом для нынешнего кризиса стало указание в понедельник на прошлой неделе (государственный праздник) модераторам Stack Overflow на официальном, но частном форуме: «Модераторы были проинформированы через закрепленные сообщения чата в различных модераторских комнатах (необычный метод), чтобы просмотреть сообщение в команде модераторов, в котором всем модераторам дано указание прекратить использовать детекторы искусственного интеллекта (как описано выше) при выполнении действий по модерации», — говорится в сообщении. Детали инструкции не разглашаются. Вице-президент сообщества Филипп Бодетт сообщил, что «контент, созданный ИИ, не идентифицируется должным образом в сети», что «вероятность ложных срабатываний очень высока» и «внутренние данные убедительно свидетельствуют о том, что чрезмерное применение блокировок для контента, созданного ИИ возможно, отказывает большому количеству законных участников на сайте». Он сказал, что модераторам было предложено «применять очень строгие стандарты доказательств для определения того, создано ли сообщение искусственным интеллектом, при принятии решения о блокировке пользователя». Однако модераторы утверждают, что описание политики, опубликованное Бодетт, «значительно отличается от руководства Teams… которое нам не разрешено публиковать».