Fóruns que proíbem conteúdo de IA… Como está indo?

Este exemplo não envolve o Discourse, mas as questões de política e governança certamente se sobrepõem.

Tanto a versão em inglês quanto a alemã da Wikipedia agora possuem o que eu descreveria como políticas extremas de pureza em relação à IA. Como editor com 16 anos de experiência, fui injustamente acusado de adicionar conteúdo gerado por IA a um artigo que escrevi predominantemente. E o processo de buscar uma reparação tem sido desgastante. Isso incluiu o registro de reclamações formais junto ao Comitê de Arbitragem da Wikipedia EN (ArbCom) e à Equipe de Confiança e Segurança da Fundação Wikimedia (WMF TST) — ambas, até agora, foram sumariamente arquivadas ou rejeitadas sem justificativa.

Não quero relatar minhas experiências aqui, em parte porque elas ainda estão em andamento. No entanto, gostaria de incentivar os leitores a analisar esta troca extraordinária referente ao artigo da Wikipedia EN sobre Fern Cave, um sítio de importância cultural para o povo Modoc da Califórnia:

O autor em questão teve que negar o uso de IA quatro vezes. Seu conhecimento indígena também foi desvalorizado no processo. O editor responsável encerra com um comentário que se assemelha a uma preocupação, mas que também pode ser lido como uma ameaça velada de sanção caso ele não ceda.

Táticas psicológicas como essas são regularmente empregadas por editores que fazem cumprir as regras, e tenho evidências de outros exemplos.

Se você examinar a marcação de código-fonte nessa mesma troca, encontrará uma armadilha do tipo „honeypot“ com font-size: 0pt configurada para tentar detectar o uso de IA pelo autor acusado ao formular respostas. Essa armadilha não foi acionada.

Há relatos credíveis de vários editores que abandonaram a Wikipedia DE após serem „atacados injustamente“ devido ao seu suposto uso de ferramentas de IA.

Para responder à pergunta original feita neste tópico, argumentaria que a Wikipedia EN e a DE estão falhando gravemente em sua governança de múltiplas formas em suas tentativas de lidar com conteúdo gerado por IA. Documentei três estudos de caso em meu recente relatório de 17 páginas enviado à equipe da WMF TST. É bem possível que eu torne esse PDF público em breve.

2 curtidas