Les modérateurs de Stack Overflow font la grève pour empêcher le contenu Garbage AI d'inonder le site

Les modérateurs bénévoles de Stack Overflow, un forum populaire permettant aux développeurs de logiciels de poser et de répondre à des questions gérées par Stack Exchange, ont lancé une grève générale contre la nouvelle politique de contenu de l'IA de l'entreprise, qui stipule que tout le contenu généré par GPT est désormais autorisé sur le site, et les suspensions du contenu de l'IA doivent cesser immédiatement. Les modérateurs se disent préoccupés par le mal que cela pourrait faire, étant donné les fréquentes inexactitudes des informations du chatbot.

"Stack Overflow, Inc. a décrété une interdiction quasi totale de modérer le contenu généré par l'IA… permettant tacitement la prolifération d'informations incorrectes ("hallucinations") et le plagiat sans entraves sur le réseau Stack Exchange", lit une lettre ouverte écrite par les modérateurs , qui sont tous des bénévoles élus par la communauté.

"Cela constitue une menace majeure pour l'intégrité et la fiabilité de la plate-forme et de son contenu. À compter de maintenant, nous décrétons une grève générale de modération sur Stack Overflow et le réseau Stack Exchange, pour protester contre cela et d'autres changements récents et à venir de la politique et la plate-forme qui nous est imposée par Stack Overflow, Inc."

La nouvelle politique, promulguée fin mai, oblige les modérateurs à cesser de modérer le contenu généré par l'IA simplement parce qu'il est généré par l'IA. Sans une modération appropriée du contenu généré par l'IA, cependant, les modérateurs disent que la qualité et l'exactitude des informations de Stack Exchange diminueront rapidement.

"Les chatbots IA sont comme des perroquets", lit un article de modérateurs sur Meta Stack Exchange expliquant plus en détail leurs demandes. "ChatGPT, par exemple, ne comprend pas les réponses qu'il vous donne ; il associe simplement une invite donnée aux informations auxquelles il a accès et régurgite des phrases à consonance plausible. Il n'a aucun moyen de vérifier que les réponses qu'il vous fournit sont exactes . ChatGPT n'est pas un écrivain, un programmeur, un scientifique, un physicien ou tout autre type d'expert dont notre réseau de sites dépend pour un contenu de grande valeur. Lorsque vous y êtes invité, il ne fait qu'enchaîner des mots en fonction des informations sur lesquelles il a été formé avec. Il ne comprend pas ce qu'il dit.

Cela, poursuit-il, permet aux utilisateurs de régurgiter les réponses de ChatGPT sans les comprendre eux-mêmes, ce qui va à l'encontre de l'objectif même du site : "Être un référentiel de contenu de questions et réponses de haute qualité".

Le contenu de la nouvelle politique d'IA est un gros problème. L'autre, disent les modérateurs, est le manque de transparence qui l'entoure. Ils écrivent dans le message qu'en décembre, le site avait adopté une politique temporaire interdisant toute utilisation de ChatGPT en raison de son "inexactitude générale" et des violations des exigences de référencement du site. Cette politique a été soutenue à la fois par les modérateurs bénévoles et le personnel de Stack Exchange, et a entraîné de nombreuses suppressions de messages et suspensions d'utilisateurs.

Cependant, le 29 mai, les modérateurs écrivent qu'une nouvelle politique a été mise en œuvre en privé, exigeant "une cessation immédiate de l'émission de suspensions pour le contenu généré par l'IA et l'arrêt de la modération du contenu généré par l'IA sur cette seule base". Le lendemain, une version légèrement différente de la politique a été rendue publique, sans que le langage oblige les modérateurs à cesser de restreindre tout le contenu de l'IA.

"La nouvelle politique a outrepassé le consensus établi de la communauté et le soutien précédent du CM, n'a été discutée avec aucun membre de la communauté, a été présentée de manière trompeuse aux modérateurs, puis encore plus trompeuse en public, et est basée sur des affirmations non fondées dérivées d'analyses de données non examinées et non révisables", a déclaré le La publication Meta Stack Exchange lit.

Il poursuit : "Le fait que vous ayez fait valoir un point en privé et un autre en public, qui diffèrent de manière si significative a mis les modérateurs dans une situation impossible, et en a fait des cibles pour être accusés d'être déraisonnables et d'exagérer l'effet du Nouvelle politique."

Les modérateurs exigent également des améliorations non liées à l'IA sur le site. "La grève concerne également en grande partie un modèle de comportement récemment présenté par Stack Exchange, Inc", indique le message. "L'entreprise a une fois de plus ignoré les besoins et établi un consensus de sa communauté, se concentrant plutôt sur les pivots commerciaux au détriment de ses propres gestionnaires de communauté." Un exemple qu'ils énumèrent est la fonction de chat, qui, selon eux, est désespérément obsolète mais a été ignorée pendant des années.

La grève est la première action majeure contre le contenu ChatGPT inondant les sites en ligne. Mais les modérateurs d'autres forums sont également concernés. Les modérateurs de Reddit se sont préparés à une multitude de messages générés par l'IA contenant des informations inexactes. Un modérateur de Reddit, qui souhaitait rester anonyme, a déclaré à Motherboard que le problème de bot alimenté par ChatGPT de Reddit était "assez grave" et que plusieurs centaines de comptes avaient déjà été supprimés manuellement du site, car les systèmes automatisés de Reddit ont du mal avec le contenu créé par l'IA.

Les modérateurs veulent que la politique d'IA soit rétractée et révisée, que l'incohérence entre les versions publique et privée de la politique soit résolue et excusée, et que l'entreprise "arrête d'être malhonnête" à propos de sa relation avec la communauté.

Le vice-président de la communauté de Stack Overflow, Philippe Beaudette, a déclaré à Motherboard dans un communiqué qu'"un petit nombre de modérateurs (11 %) sur le réseau Stack Overflow ont cessé de s'engager dans plusieurs activités, y compris la modération de contenu. La principale raison de cette action est insatisfaction quant à notre position sur les outils de détection concernant le contenu généré par l'IA. Stack Overflow a effectué une analyse et les outils de détection ChatGPT que les modérateurs utilisaient auparavant ont un taux alarmant de faux positifs. Les modérateurs écrivent dans leur message qu'ils étaient au courant des problèmes avec l'outil de détection.

"Nous maintenons notre décision d'exiger que les modérateurs cessent d'utiliser les outils utilisés auparavant", a poursuivi Beaudette. "Nous sommes convaincus que nous trouverons une voie à suivre. Nous regrettons que les actions aient progressé jusqu'à présent, et l'équipe de gestion de la communauté évalue la situation actuelle alors que nous travaillons dur pour stabiliser les choses à court terme."

En vous inscrivant, vous acceptez les conditions d'utilisation et la politique de confidentialité et de recevoir des communications électroniques de Vice Media Group, qui peuvent inclure des promotions marketing, des publicités et du contenu sponsorisé.