Moderadores de estouro de pilha estão atacando para impedir que conteúdo de IA de lixo inunde o site

Moderadores voluntários do Stack Overflow, um fórum popular para desenvolvedores de software fazerem e responderem perguntas realizadas pelo Stack Exchange, emitiram uma greve geral sobre a nova política de conteúdo de IA da empresa, que diz que todo o conteúdo gerado pelo GPT agora é permitido no site, e as suspensões sobre conteúdo de IA devem parar imediatamente. Os moderadores dizem estar preocupados com os danos que isso pode causar, dadas as frequentes imprecisões das informações do chatbot.

"Stack Overflow, Inc. decretou uma proibição quase total de moderar conteúdo gerado por IA... permitindo tacitamente a proliferação de informações incorretas ("alucinações") e plágio irrestrito na rede Stack Exchange", diz uma carta aberta escrita pelos moderadores , todos voluntários eleitos pela comunidade.

"Isso representa uma grande ameaça à integridade e confiabilidade da plataforma e seu conteúdo. Com efeito imediato, estamos decretando uma greve geral de moderação no Stack Overflow e na rede Stack Exchange, em protesto contra esta e outras mudanças recentes e futuras na política e a plataforma que está sendo imposta a nós pela Stack Overflow, Inc."

A nova política, promulgada no final de maio, exige que os moderadores parem de moderar conteúdo gerado por IA simplesmente por ser gerado por IA. Sem moderação adequada do conteúdo gerado por IA, porém, os moderadores dizem que a qualidade e a precisão das informações do Stack Exchange diminuirão rapidamente.

“Os chatbots de IA são como papagaios”, diz uma postagem de moderadores no Meta Stack Exchange, explicando ainda mais suas demandas. "O ChatGPT, por exemplo, não entende as respostas que lhe dá; ele simplesmente associa um determinado prompt com as informações às quais tem acesso e regurgita frases que parecem plausíveis. Não há como verificar se as respostas que está fornecendo são precisas . O ChatGPT não é um escritor, programador, cientista, físico ou qualquer outro tipo de especialista do qual nossa rede de sites depende para conteúdo de alto valor. Quando solicitado, ele apenas junta palavras com base nas informações que foi treinado com. Ele não entende o que está dizendo."

Isso, continua, permite que os usuários regurgitem as respostas do ChatGPT sem entendê-las, o que vai contra o próprio propósito do site: "Ser um repositório de conteúdo de perguntas e respostas de alta qualidade".

O conteúdo da nova política de IA é um grande problema. O outro, dizem os moderadores, é a falta de transparência em torno disso. Eles escrevem no post que, em dezembro, o site promulgou uma política temporária proibindo todo o uso do ChatGPT devido à sua "imprecisão geral" e violações dos requisitos de referência do site. Essa política foi apoiada por moderadores voluntários e pela equipe do Stack Exchange e resultou em muitas remoções de postagens e suspensões de usuários.

No entanto, em 29 de maio, os moderadores escreveram que uma nova política foi implementada em particular, exigindo "uma cessação imediata de emitir suspensões para conteúdo gerado por IA e parar de moderar o conteúdo gerado por IA apenas com base nisso". No dia seguinte, uma versão ligeiramente diferente da política foi divulgada ao público, sem que a linguagem exigisse que os moderadores parassem de restringir todo o conteúdo de IA.

"A nova política anulou o consenso estabelecido da comunidade e o apoio anterior do CM, não foi discutida com nenhum membro da comunidade, foi apresentada de forma enganosa aos moderadores e ainda mais enganosa em público, e é baseada em alegações infundadas derivadas de análises de dados não revisadas e não revisáveis", disse o comunicado. Leituras de postagem do Meta Stack Exchange.

Ele continua: "O fato de você ter feito um ponto em particular e outro em público, que diferem tão significativamente, colocou os moderadores em uma situação impossível e os tornou alvos de acusações de serem irracionais e exagerar o efeito do nova política."

Os moderadores também estão exigindo melhorias não relacionadas à IA no site. "A greve também é em grande parte sobre um padrão de comportamento exibido recentemente pela Stack Exchange, Inc", diz o post. "A empresa mais uma vez ignorou as necessidades e estabeleceu o consenso de sua comunidade, concentrando-se em pivôs de negócios às custas de seus próprios gerentes de comunidade." Um exemplo que eles listam é a função de bate-papo, que eles dizem estar desesperadamente desatualizada, mas foi ignorada por anos.