O blog fala sobre como o GPT4 está sendo treinado para atuar como moderador de conteúdo da internet com base em políticas.
Isso se aplica diretamente a sites do Discourse que usam moderadores humanos para filtrar conteúdo com base em políticas.
Como moderador humano em alguns sites, uso as políticas tanto da organização quanto do fórum Discourse para decidir sobre as ações a serem tomadas em relação a uma postagem, mais especificamente quando elas são sinalizadas. Não é incomum que eu, como moderador, permita que uma postagem sinalizada permaneça se não violar uma política.
Sei que você pediu minha opinião, mas tento manter tais respostas focadas nos fatos; espero ter permanecido dentro dos meus limites.
Você poderia expandir um pouco na postagem original sobre por que você acha que isso é de interesse para as pessoas e como isso se relaciona com o Discourse?
Um link com pouco contexto não é muito para iniciar uma discussão.
Meu objetivo não era iniciar uma discussão, mas sim repassar informações que considero relevantes tanto para a Discourse, a empresa, quanto para aqueles que administram sites com a ajuda de moderadores humanos.
Embora eu tenha tentado me ater apenas aos fatos para as informações fornecidas na primeira postagem, aqui está um ponto que sinto que pode valer a pena discutir.
Um site deve depender exclusivamente de um moderador de IA ou os humanos devem estar envolvidos? Mais importante, o que acontece quando uma IA e um humano discordam?
O uso da palavra loop foi intencional, não por coincidência; você já ouviu as missões Apollo do controle de voo e notou a palavra loop?
Uma nota lateral muito interessante relacionada a isso que muitos podem não perceber é que este é o mesmo problema que o voo espacial tripulado enfrentou; a nave espacial deve ser totalmente autônoma ou um humano deve ser capaz de assumir o controle parcial e/ou total? Isso pode ser considerado o início dos pilotos automáticos para aviões.
Um livro fascinante que li pessoalmente sobre o assunto, aprendi muito sobre uma área de código e design que não vi em nenhum outro projeto.
“Digital Apollo: Human and Machine in Spaceflight” de David A. Mindell (site) (WorldCat)
Certamente mantenha os humanos no circuito. Você já viu Robocop? Sério, há muito julgamento na moderação. Embora seja bom ter diretrizes e usá-las, executá-las como um conjunto de regras rígidas me parece tolo - uma solução técnica para um problema humano.
Editar: Eu acrescentaria que gerencio fóruns em escala humana, onde os moderadores se conhecem e conhecem os membros que contribuem regularmente. Tenho certeza de que a OpenAI está pensando em fóruns em escala industrial, executados com fins lucrativos, onde os desafios de moderação são bem diferentes.
O Discourse é uma plataforma ideal para aprender, crescer e construir essas novas ferramentas.
Estou totalmente engajado em abraçar a revolução da IA como uma “rede neural” descentralizada e interconectada de redes, através da qual as sociedades e culturas humanas já existentes podem começar a evoluir e colaborar de forma mais eficiente, e começar a virar o jogo contra os flagelos da polarização possibilitados pelas centralizações de poder e controle que nos foram impostas pelas recentes iterações de redes sociais.
Os humanos devem estar envolvidos, mas acho que ter algum nível de moderação de IA seria um grande diferencial para qualquer instituição pública que estivesse considerando ter um fórum. Por exemplo, se a CBC pudesse ser convencida de alguma forma a ter um fórum.
O equilíbrio pode ser algo como, moderadores humanos usariam suas habilidades humanas para guiar as conversas, enquanto a IA (supervisionada por humanos) aplicaria as diretrizes do site. A moderação de IA poderia potencialmente tornar os fóruns mais dispostos a permitir conversas que lidam com questões polarizadoras.
Quero moderação assistida por IA para identificar usuários problemáticos que criam novas contas após serem suspensos. Lidar com isso consome mais tempo do que eu gostaria, e eu nem sou um dos moderadores (temos funções segregadas).
Existe alguma funcionalidade de IA como essa para integração no Discourse? Acho que seria muito útil para auxiliar na moderação da minha comunidade. Por favor, me avise! Procurando soluções para economizar tempo em posts que violam nossas diretrizes.
A moderação de conteúdo desempenha um papel crucial na sustentação da saúde das plataformas digitais. Um sistema de moderação de conteúdo usando GPT-4 resulta em uma iteração muito mais rápida nas mudanças de política, reduzindo o ciclo de meses para horas. O GPT-4 também é capaz de interpretar regras e nuances em longos documentos de política de conteúdo e se adaptar instantaneamente às atualizações de política, resultando em rotulagem mais consistente. Acreditamos que isso oferece uma visão mais positiva do futuro das plataformas digitais, onde a IA pode ajudar a moderar o tráfego online de acordo com a política específica da plataforma e aliviar o fardo mental de um grande número de moderadores humanos. Qualquer pessoa com acesso à API da OpenAI pode implementar essa abordagem para criar seu próprio sistema de moderação assistido por IA.
Enquanto a OpenAI vende tokens para você usar os passeios no seu parque de diversões, um “fardo mental” é substituído por outro “fardo mental” (assumindo que você se importe), você consegue identificá-lo?
Embora eu esteja absolutamente adorando essa tecnologia e tenha feito meu negócio entender isso o melhor que posso e saber como usá-la melhor, fica claro que a OpenAI (e serviços semelhantes) estão realmente em algo aqui do ponto de vista de negócios.
A implicação é que para cada postagem feita você tem que dar dinheiro para a OpenAI por potencialmente múltiplos motivos (resumo, gramática da postagem, NSFW da postagem, incorporação de perfil, a lista continua).
Antes que você perceba, a OpenAI está recebendo uma parte decente de todo o tráfego do seu próprio site. Toda aquela receita de anúncios e afiliados que você conquistou? Parte dela agora é desviada para eles.
E os provedores de Cloud VPS vão adorar todas as pessoas atualizando seus servidores de 4 GB para suas ofertas de 16 GB para usar modelos de código aberto localmente.
Dito isso, é claro que ninguém fará isso em escala, a menos que seja mais eficiente fazer dessa forma e seja competitivamente importante fazê-lo.
E ainda menos pessimista, outra maneira de ver os serviços prestados é uma democratização da tecnologia que antes só estava disponível para os grandes provedores.
Por exemplo, a busca semântica agora é mais barata do que nunca e pequenas instalações agora podem usar busca poderosa a um ponto de preço muito acessível. Isso certamente tem que ser uma coisa ótima?
O poder do processamento de linguagem natural é surpreendente, mesmo nos modelos mais baratos.
E nós apenas começamos esta nova era, tenho certeza de que os preços cairão à medida que a concorrência florescer.
É totalmente relevante e, na minha opinião, certamente não está fora do tópico.
Quantas postagens diárias no site que você administra?
Se você tiver que pagar $ à OpenAI por cada postagem contribuída, isso é uma consideração.
Qual é o valor marginal de uma postagem para sua receita de anúncios, engajamento do cliente?
Tem que se pagar no final para ser justificável.
Não tenho dúvidas de que pode levar a uma redução material nas horas de gerenciamento da comunidade e melhorar a qualidade geral de um site, etc., o que pode estabelecer um forte argumento para isso.
Não se trata apenas da facilidade ou da viabilidade técnica, embora essas coisas precisem ser consideradas?
