Em relação às pessoas que respondem copiando e colando do ChatGPT, aqui está um exemplo curioso de alguma reação negativa:
Também estou vendo isso nos fóruns que frequento mais (que são de natureza bastante técnica). Um novo usuário específico tem postado 8 ou 9 respostas por dia, todas do ChatGPT.
Há muitas informações valiosas lá, mas também há imprecisões e coisas francamente enganosas (imagine uma lista complicada de 7 passos, que eu olho para o passo 6 e sei que nunca funcionará… mas muitas pessoas não).
Este usuário parece estar tentando construir uma reputação… estamos considerando pedir às pessoas que sempre rotulem explicitamente o conteúdo do ChatGPT como o que é. Um pedido que só podemos esperar que respeitem, mas não realmente impor.
Isso me deixa inquieto, não acho que isso nos levará a um bom lugar. Temo que conversas sem sentido simplesmente dominem a Internet. Podemos ser forçados a viver vidas reais no mundo real, não tenho certeza se podemos lidar com isso…
Meu filho mais velho adora me enviar artigos e posts mostrando as inépcias do ChatGPT. Eu continuo dizendo a ele que a tecnologia do ChatGPT talvez esteja em um nível de 2ª ou 3ª série agora em muitas áreas, como matemática. Para citar um de meus professores anos atrás, ele não sabe o que não sabe.
Ainda não pedi a ele uma receita para assar um bolo, estremeço ao pensar no que ele poderia errar. (Já vi muitas receitas postadas por humanos online que são totalmente inviáveis.)
Acho que a conversa sem sentido pode ter dominado a Internet quando o Facebook e o Twitter foram inventados. Aqueles de nós velhos o suficiente para lembrar do USENET, quando ainda era preciso chamá-lo de videogame para pessoas que sabem ler, poderiam traçar a linha ainda mais no passado.
Estamos definitivamente sentindo isso no momento - administrando um fórum Discourse gratuito e aberto, e vendo muitos spambots no estilo ChatGPT passando pela proteção de spam existente.
O Akismet não está acompanhando o ritmo deles no momento, pois nunca vi tantas contas de spam passarem antes. Eles tendem a postar comentários de aparência inofensiva que respondem a uma pergunta (ou a reformulam e depois respondem) com uma resposta bastante prolixa que parece útil, mas que carece de algum contexto ou nuance da pergunta original.
Presumo que os fóruns Discourse sejam alvos como campo de testes, pelas mesmas razões dos sites WordPress uma década atrás: é uma tecnologia de código aberto que está em uso bastante difundido, então bots que conseguem navegar no fluxo de inscrição em um fórum provavelmente podem ter acesso a muitos outros.
Nós não vemos atualmente o comportamento tradicional de spambot (criar uma conta, postar algo inofensivo o suficiente para passar pelas medidas anti-spam e, em seguida, editá-lo em até 48 horas para adicionar links) - então não tenho certeza de qual é o objetivo final aqui. É possível que estejamos apenas excluindo essas postagens muito rapidamente, e elas seriam editadas em fazendas de backlinks mais tarde.
Sinto que uma 2FA obrigatória deveria filtrar a maioria dos bots. Alguma opinião?
Caso contrário, eu provavelmente faria os usuários preencherem um typeform após a criação da conta e adicioná-los a um grupo de “verificados” através de um webhook na submissão do formulário e tornaria o fórum somente leitura para todos que não fossem verificados.
Dito isso, agora que os bots podem navegar na web e entender intenções de botões, sinto que essa é uma abordagem paliativa.
Outro motivo para ter cautela com a tecnologia ChatGPT.
Um professor de direito da Califórnia foi incluído em uma lista gerada pelo ChatGPT de acadêmicos jurídicos acusados de assédio sexual. O ChatGPT citou uma matéria do Washington Post como sua fonte.
O problema é que não existe tal matéria no Washington Post e nenhuma acusação de assédio sexual jamais foi levantada contra esse professor de direito.
Todos podem ficar tranquilos, o Departamento de Comércio anunciou planos para garantir que a IA tenha “barreiras de proteção” apropriadas
Do WSJ:
“É incrível ver o que essas ferramentas podem fazer mesmo em sua relativa infância”, disse Alan Davidson, que lidera a National Telecommunications and Information Administration, a agência do Departamento de Comércio que emitiu o pedido de comentários. “Sabemos que precisamos colocar algumas barreiras de proteção para garantir que elas sejam usadas de forma responsável.”
Sim… se o texto ainda fosse escrito por participantes humanos.
O que provavelmente não será, cada vez mais. Daí o problema.
A IA pode fazer com que tudo o que você descreveu piore cada vez mais e se torne cada vez mais difícil de detectar.
Autores de livros é uma coisa. Não saber mais com quem você está lidando em discussões online é outra. Todas as pistas que você deveria obter de um texto escrito se tornam distorcidas se ele não for escrito genuinamente por um indivíduo, mas usando IA.
Esta é uma pergunta totalmente dependente de nicho. Meus círculos estão fortemente ligados à nutrição e alimentação de cães. Eu vejo imediatamente se um texto é gerado por IA — porque as IAs pensam que um milhão de moscas não podem estar erradas.
O mesmo é visível quando falamos sobre caminhadas, canoagem, etc.
Portanto, depende de que tipo de seita escreveu a maior parte do texto para a web. É por isso que todos, exceto os programadores em meus amigos/comunidade, contam a IA apenas como mais um hype — no momento, de qualquer forma
Acabei de ver isto e pensei que seria relevante para a facilidade com que será (na verdade, já é) colocar respostas de IA em todas as caixas de entrada:
Tenho o primeiro caso de um usuário provavelmente usando o ChatGPT para respostas argumentativas. Essa pessoa já é um troll de fronteira, e não estou feliz com esse desenvolvimento.
Outro usuário usou uma nova extensão do Chrome para a identificação:
Ainda não tenho certeza de quão boa é essa extensão - ela parece ter como padrão “humano” para amostras insuficientes, mas pode não detectar certos tipos/estilos de texto gerados por IA (como limericks gerados pelo ChatGPT).
Meu plano de moderação atual, se é que posso chamar assim, é deixar que outros usuários identifiquem e denunciem esses abusos, e deixar que a pressão social seja o impedimento. Não tenho certeza do que mais pode ser feito no momento.
Se isso acontecer no meu fórum, quero deixar claro que postar texto gerado por máquina sem anotá-lo é uma infração que pode ser sinalizada. Essencialmente, é enganoso, então vai contra as diretrizes.
Concordo em princípio, mas os critérios para identificar texto gerado por máquina são um alvo em movimento. A boa notícia é que a extensão do Chrome ainda não gerou nenhum Falso Positivo, embora em testes muito limitados. A má notícia é o trabalho extra para os moderadores fazerem a determinação e a necessidade de acompanhar as ferramentas de detecção mais atuais à medida que o texto gerado por IA fica cada vez melhor. O texto de IA eventualmente atingirá um ponto em que a detecção é problemática.
De fato, mas estou pensando nisso como um problema de moderação. Nossos moderadores humanos já ficam de olho em postagens que são confrontadoras, rudes, insultuosas, repetitivas ou enganosas. Isso é uma extensão disso: e com uma norma cultural local que diz que pessoas reais não postam texto de máquina sem um aviso, qualquer coisa que pareça (ou cheire a) texto de máquina, especialmente de um usuário relativamente novo, é automaticamente suspeita.
Acho que os cérebros humanos, especialmente os cérebros de moderadores, se tornarão razoavelmente bons em identificar texto de máquina. Quando o texto de máquina for indistinguível de uma postagem útil que avança a conversa, não teremos mais um problema. (Pessoas que fazem postagens de baixo esforço e baixo valor talvez sejam penalizadas.)
E todos os outros? E eles concordam entre si 
