Shadowbans são ruins para o discurso, e eis o porquê

Deixando a moralidade de lado, não vejo como isso vai funcionar em uma comunidade pequena. Se os usuários forem minimamente experientes em tecnologia, provavelmente descobrirão o que está acontecendo. Mesmo apenas pesquisando no Google por "Discourse shadowban" os levará diretamente a este tópico.

Esta é uma referência importante!

Muitas discussões interessantes neste tópico, algumas ideias principais diferentes para considerar.

Com o Discourse, o recurso de poder silenciar/ignorar alguém pode ser considerado uma forma de shadowban, mas apenas para um indivíduo, não para todos os outros.

Com o sistema de sinalização de posts, isso não honra necessariamente o habeas corpus se os moderadores estiverem agindo em resposta a sinalizações, enquanto os indivíduos que sinalizaram algo permanecem anônimos. No entanto, isso fica a critério dos moderadores como as sinalizações são revisadas, idealmente suas decisões são baseadas em sua própria interpretação do que está sendo sinalizado em vez dos relatórios de sinalização em si.

Há uma oportunidade para diplomacia se um membro da comunidade optar por se identificar como a pessoa que relatou algo que foi postado com uma sinalização, seja por ser apenas fora de tópico ou inapropriado, ou sinalizado por algum outro motivo. No entanto, há o risco de uma escalada para mais uma discussão que pode não realizar nada além de deixar as pessoas chateadas.

Em geral, a razão pela qual as plataformas podem estar implementando medidas da categoria shadowban pode ser para desescalada/evitar discussões/conflitos, o que pode parecer razoável da perspectiva de gerenciamento da comunidade de querer que todos se deem bem e concordem com tudo. No entanto, quando há discordâncias legítimas sobre algo, pode ser melhor ter espaço para as pessoas expressarem por que/se estão chateadas para que possam ser melhor compreendidas.

Isso faz sentido da maneira como você descreve, embora nem todos possam concordar.

Quanto ao desenvolvimento de recursos que você postou em Marketplace, é para uma solução de código aberto ou apenas especificamente para o seu caso de uso?

Você quer dizer que o cliente pediria um reembolso? Isso é improvável se eles não sabem que estão sendo censurados. E seria antiético você continuar aceitando o dinheiro deles enquanto também os censura sem o conhecimento deles.

Se, por outro lado, você quer dizer que você os reembolsaria, então não há necessidade de censurar secretamente esse usuário. Se a conta deles foi cancelada, então eles não têm mais acesso ao serviço.

Você presume que os usuários sabem que estão sendo banidos secretamente, o que, pelas minhas observações, eles geralmente não sabem. Comentaristas ativos geralmente não estão cientes quando são banidos secretamente.

Bans secretos são comumente usados em muitas plataformas importantes porque os usuários ou não sabem disso, ou não acham que isso acontece com eles. Os usuários, portanto, perdem tempo comentando enquanto as plataformas coletam receita de anúncios com base em contagens de usuários mais altas, o que elas alcançam com a ajuda de engano.

Parecia que eles queriam dizer que um reembolso seria dado se alguém descobrisse que havia sido banido das sombras e solicitasse um reembolso por causa disso, no entanto, mesmo que essa seja a política deles, isso poderia representar um risco de processo judicial se alguém estivesse pagando por uma plataforma onde pensa que as pessoas podem ler o que posta, mas acaba descobrindo que isso era uma mentira.

“Parecia que eles queriam dizer que um reembolso seria dado se alguém descobrisse que havia sido banido das sombras e solicitasse um reembolso por causa disso, no entanto, mesmo que essa seja a política deles, isso poderia representar um risco de processo judicial se alguém estivesse pagando por uma plataforma onde pensa que as pessoas podem ler o que posta, mas descobre que isso era mentira.”

Concordo com você que existem riscos em usar shadow bans, seja por meio de processos judiciais ou para a confiabilidade do seu negócio.

Mas mesmo sem um processo judicial, o objetivo aqui era determinar se os shadow bans têm algum caso de uso válido, não demonstrar como enganar clientes para obter dinheiro. A resposta para a questão do caso de uso válido é ainda mais fácil quando se trata de clientes pagantes. Você simplesmente para de aceitar o dinheiro deles, sem necessidade de shadow bans.

Um caso de uso potencial para um banimento oculto é para/com se a intenção de alguém parecer ser apenas causar interrupção em um site comunitário, de modo que, se forem banidos abertamente, eles vão querer criar uma nova conta, independentemente do banimento.

Se for possível identificar quem está tentando fazer isso, então se poderia simplesmente recusar a aprovação de novas candidaturas de contas, verdade.

Shadow bans não derrotam trolls, eles os capacitam. O número de pessoas que gastariam o tempo necessário para contornar banimentos é relativamente pequeno, e esses atores determinados de má-fé são mais propensos a descobrir shadow bans do que o usuário médio de boa-fé. Mesmo no Reddit, que possui técnicas avançadas para identificar contas vinculadas, os moderadores ainda reclamam regularmente em r/ModSupport sobre usuários que contornam tanto banimentos quanto shadow bans. O que você quer, então, não são ferramentas enganosas, você quer cultivar comunidades confiáveis. Isso leva mais tempo, mas é melhor do que fundar uma comunidade baseada na desconfiança.

Quando você introduz shadow bans em sua comunidade, a confiança desaparece. Você, portanto, capacita trolls que não têm escrúpulos em usar o engano para “moderar”. Os trolls, agora no comando, acabam afastando usuários de boa-fé que nunca imaginariam que um fórum faria isso com eles. Em outras palavras, você se torna o rei troll. Você não gostaria que alguém removesse secretamente seus próprios comentários sem seu conhecimento, então não faz sentido fazer isso com os outros, nem faz sentido capacitar outros a fazer isso.

Em relação a bots ou spam, shadow bans não enganam bots, apenas captchas enganam bots. Shadow bans apenas enganam pessoas reais.

Bem, para uma comunidade confiável, seria óbvio se uma conta tivesse sido silenciada.

Bem, para uma comunidade confiável, seria óbvio se uma conta tivesse sido silenciada.

Não é confiável se você estiver usando shadow bans, mas para argumentar, para quem isso seria óbvio? Nem para o usuário secretamente silenciado, nem para a comunidade, já que todo membro não comentará em todos os tópicos. Tenha em mente que um shadow ban é frequentemente aplicado a comentários individuais, não necessariamente a uma conta inteira.

Bem, para uma comunidade de, digamos, vinte pessoas, se elas tiverem alguma comunicação fora do aplicativo de shadow ban, em poucos dias a maioria das pessoas conseguiria perceber que nem tudo o que escreveram está sendo publicado.

Falando ao telefone, poderiam simplesmente perguntar: “Ei, você viu aquele comentário que escrevi?”

Bem, para uma comunidade de, digamos, vinte pessoas, se elas tiverem alguma comunicação fora do aplicativo de shadow ban, em poucos dias a maioria das pessoas conseguiria perceber que nem tudo que escreveram está sendo publicado.

Duvido. Essa prática começou com o início da internet e inflou para o que você vê agora — plataformas com bilhões de usuários.

De qualquer forma, vale a pena pesquisar. Alguém deveria estar estudando o impacto dos shadow bans. Até hoje, não vi tal estudo.

Isso estaria na categoria de edição/filtragem de comentários, “banimento” significa censura completa.

“Ban” significa apenas que algo não é permitido. Isso pode ser uma palavra-chave, link, tópico, conta ou apenas um comentário ou ponto de vista. O termo “shadow ban” chamou a atenção do público pela primeira vez no contexto de proibições que foram aplicadas secretamente a contas inteiras. No entanto, as plataformas também deixam de divulgar toneladas de ações contra posts individuais para os autores desses posts.

O aspecto sombrio, onde o autor de um post filtrado/limitado/rebaixado/removido não sabe que alguém tomou uma atitude contra seu conteúdo, é realmente a parte mais importante e não deve ser omitido. Eu prefiro o termo abrangente “moderação sombria”, no entanto, muitas vezes uso “shadow ban” porque muitas pessoas já viram essa palavra nas notícias. Veja este artigo do WaPo, por exemplo, que usa o termo “shadow ban” para descrever ações contra contas inteiras e posts individuais.

Ok, concordo que isso pode ser um problema. Com o Discourse, cabe aos moderadores decidir se querem informar alguém que suas postagens estão sendo editadas/removidas como cortesia. Geralmente, é educado fazer isso. Com o sistema de sinalização, há a notificação automática se uma postagem foi sinalizada e, em seguida, o autor tem a chance de revisar/editar a postagem após um período de “espera” de dez minutos. Este é um sistema sofisticado.

Com plataformas massivas como Google e YouTube, as coisas são diferentes. Tenho visto que, se alguém é banido de um canal, isso significa que seus comentários estão sendo censurados, mas eles não são notificados sobre isso.

Sim, cabe à plataforma. Não defendo uma solução legislativa para amarrar as mãos das plataformas. Isso apenas daria ao governo o poder de censurar, que é precisamente o que a primeira emenda protege. Além disso, uma solução legislativa pode não se aplicar a serviços de mídia social sediados no exterior. Ou, se se aplicasse, poderia ser difícil de aplicar.

Reddit e Twitter/X já foram pequenos, mas eles também abordaram esse tópico, por exemplo aqui em 2007:

Uma ideia melhor é um banimento silencioso. Deixe-o postar comentários e mostre esses comentários a ele, mas apenas os omita para todos os outros.

Assim, as plataformas podem ter crescido com a ajuda da moderação oculta. Ao usá-la, as plataformas enganam os usuários, fazendo-os pensar que podem compartilhar seus pontos de vista sem serem censurados. Na realidade, os usuários perdem tempo escrevendo enquanto as plataformas lucram com dólares de publicidade.

Você está usando o tempo passado, mas o Twitter/X ainda faz isso em 2023.

As diferenças de idioma são interessantes, ou é mais uma questão de cultura, mas em grande parte apenas o estado/governo pode fazer censura. Partes privadas nunca. E então a moderação, é transparente ou sombria, não faz parte da censura e o termo censura é usado principalmente apenas em… sentido atenuado.

Mas continue, este é um tópico interessante e estou tentando acompanhar.

Sim, eu gostaria que as pessoas se concentrassem nisso. Ou seja, como o conteúdo é removido, em vez de o que é removido. Seria uma simples mudança de código para revelar shadow bans existentes, e o CEO já prometeu fazê-lo há um ano.

A demora, diz o ex-chefe de Confiança e Segurança da X, Yoel Roth, diz, é que a X também deve explicar o motivo do shadow ban aos usuários. Ele diz que, como essas explicações estão em notas de texto livre que não foram escritas para os olhos do público, elas devem primeiro ser categorizadas antes que as pessoas possam ser informadas sobre seus shadow bans.

Eu não acredito nessa explicação. “Aviso simples”, como descrito aqui por um pesquisador, é separado das explicações, e a necessidade de categorização não é desculpa para continuar enganando os usuários.

Sempre que vejo pessoas deturpando o CEO da X como o novo campeão da liberdade de expressão, eu tento esclarecer os fatos, mas não tenho muitos seguidores. Pessoalmente, não acho que possamos depender de nenhum indivíduo ou organização para nos fornecer liberdade de expressão. Devemos cada um assumir essa responsabilidade. Certamente devemos nos unir quando possível, mas se você está esperando que outra pessoa proteja sua fala, corre o risco de ser enganado.