# Para sua informação "Usando GPT-4 para moderação de conteúdo" - Uma entrada de blog da OpenAI
**URL:** https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349
**Category:** Community Building
**Created:** [Agosto 16, 2023, 8:16am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349 "2023-08-16T08:16:23Z")
**Posts on this page:** 16
**Page:** 1
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Agosto 16, 2023, 8:16am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/1 "2023-08-16T08:16:23Z")
[https://openai.com/blog/using-gpt-4-for-content-moderation](https://openai.com/blog/using-gpt-4-for-content-moderation)
* * *
Da resposta abaixo
> [@JammyDodger](#):
>
> por que você acha que isso interessa às pessoas e como isso se relaciona com o Discourse?
O blog fala sobre como o GPT4 está sendo treinado para atuar como moderador de conteúdo da internet com base em políticas.
Isso se aplica diretamente a sites do Discourse que usam moderadores humanos para filtrar conteúdo com base em políticas.
Como moderador humano em alguns sites, uso as políticas tanto da organização quanto do fórum Discourse para decidir sobre as ações a serem tomadas em relação a uma postagem, mais especificamente quando elas são sinalizadas. Não é incomum que eu, como moderador, permita que uma postagem sinalizada permaneça se não violar uma política.
Sei que você pediu minha opinião, mas tento manter tais respostas focadas nos fatos; espero ter permanecido dentro dos meus limites. 🙂
---
### Author:  [@JammyDodger](https://meta.discourse.org/u/JammyDodger)
#### Post date: [Agosto 16, 2023, 8:22am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/2 "2023-08-16T08:22:44Z")
Você poderia expandir um pouco na postagem original sobre por que você acha que isso é de interesse para as pessoas e como isso se relaciona com o Discourse? 🙏
Um link com pouco contexto não é muito para iniciar uma discussão. 🙂
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Agosto 16, 2023, 8:57am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/3 "2023-08-16T08:57:17Z")
> [@JammyDodger](#):
>
> Um link com pouco contexto não é muito para iniciar uma discussão.
Meu objetivo não era iniciar uma discussão, mas sim repassar informações que considero relevantes tanto para a Discourse, a empresa, quanto para aqueles que administram sites com a ajuda de moderadores humanos.
Embora eu tenha tentado me ater apenas aos fatos para as informações fornecidas na primeira postagem, aqui está um ponto que sinto que pode valer a pena discutir.
Um site deve depender exclusivamente de um moderador de IA ou os humanos devem estar envolvidos? Mais importante, o que acontece quando uma IA e um humano discordam?
O uso da palavra `loop` foi intencional, não por coincidência; você já ouviu as missões Apollo do controle de voo e notou a palavra `loop`?
* * *
Uma nota lateral muito interessante relacionada a isso que muitos podem não perceber é que este é o mesmo problema que o voo espacial tripulado enfrentou; a nave espacial deve ser totalmente autônoma ou um humano deve ser capaz de assumir o controle parcial e/ou total? Isso pode ser considerado o início dos pilotos automáticos para aviões.
Um livro fascinante que li pessoalmente sobre o assunto, aprendi muito sobre uma área de código e design que não vi em nenhum outro projeto.
“Digital Apollo: Human and Machine in Spaceflight” de David A. Mindell ([site](https://web.mit.edu/digitalapollo/)) ([WorldCat](https://www.worldcat.org/title/751829782))
---
### Author:  [@Ed\_S](https://meta.discourse.org/u/Ed_S)
#### Post date: [Agosto 16, 2023, 11:41am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/4 "2023-08-16T11:41:59Z")
Certamente mantenha os humanos no circuito. Você já viu Robocop? Sério, há muito julgamento na moderação. Embora seja bom ter diretrizes e usá-las, executá-las como um conjunto de regras rígidas me parece tolo - uma solução técnica para um problema humano.
Editar: Eu acrescentaria que gerencio fóruns em escala humana, onde os moderadores se conhecem e conhecem os membros que contribuem regularmente. Tenho certeza de que a OpenAI está pensando em fóruns em escala industrial, executados com fins lucrativos, onde os desafios de moderação são bem diferentes.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [Agosto 16, 2023, 11:26pm UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/5 "2023-08-16T23:26:41Z")
O interessante aqui é reformular o pensamento:
> ~~Moderação GPT-4~~
>
> ⏬
>
> > Moderação **assistida** por GPT-4
Confiar nessas ferramentas para **capacitar** moderadores é algo que acho muito atraente.
---
### Author:  [@denvergeeks](https://meta.discourse.org/u/denvergeeks)
#### Post date: [Agosto 16, 2023, 11:32pm UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/6 "2023-08-16T23:32:36Z")
O Discourse é uma plataforma ideal para aprender, crescer e construir essas novas ferramentas.
Estou totalmente engajado em abraçar a revolução da IA como uma “rede neural” descentralizada e interconectada de redes, através da qual as sociedades e culturas humanas já existentes podem começar a evoluir e colaborar de forma mais eficiente, e começar a virar o jogo contra os flagelos da polarização possibilitados pelas centralizações de poder e controle que nos foram impostas pelas recentes iterações de redes sociais.
Gostei desta visualização…
> **[Word Galaxy Visualization](https://lusilva.github.io/word-galaxy/)**
>
> Word galaxy allows you to view relationships between words in the english language.
---
### Author:  [@simon](https://meta.discourse.org/u/simon)
#### Post date: [Agosto 17, 2023, 3:00am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/7 "2023-08-17T03:00:00Z")
> [@EricGT](#):
>
> Um site deve depender apenas de um moderador de IA ou os humanos devem estar envolvidos?
Os humanos devem estar envolvidos, mas acho que ter algum nível de moderação de IA seria um grande diferencial para qualquer instituição pública que estivesse considerando ter um fórum. Por exemplo, se a CBC pudesse ser convencida de alguma forma a ter um fórum.
O equilíbrio pode ser algo como, moderadores humanos usariam suas habilidades humanas para guiar as conversas, enquanto a IA (supervisionada por humanos) aplicaria as diretrizes do site. A moderação de IA poderia potencialmente tornar os fóruns mais dispostos a permitir conversas que lidam com questões polarizadoras.
---
### Author:  [@Lilly](https://meta.discourse.org/u/Lilly)
#### Post date: [Agosto 17, 2023, 3:21am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/8 "2023-08-17T03:21:15Z")
Quero moderação assistida por IA para identificar usuários problemáticos que criam novas contas após serem suspensos. Lidar com isso consome mais tempo do que eu gostaria, e eu nem sou um dos moderadores (temos funções segregadas).
---
### Author:  [@Lilly](https://meta.discourse.org/u/Lilly)
#### Post date: [Agosto 18, 2023, 8:42pm UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/9 "2023-08-18T20:42:35Z")
boa ideia aqui
> [@Have AI identify and flag web crawlers](https://meta.discourse.org/t/have-ai-identify-and-flag-web-crawlers/275765?u=lillinator):
>
> Suggestion Have AI identify web crawlers that are regularly crawling site but that are not generating visits. Flag them for review by admins. Additionally modify the Consolidated Page View report to break out crawlers into more detail crawlers that generate visits one time crawlers others There are many web crawlers visiting sites daily or repeatedly and for sites such as [SWI-Prolog](https://swi-prolog.discourse.group/) many run up the page views but then there is no benefit to the site for such. Most often these are search en…
---
### Author:  [@Sara\_McGuire](https://meta.discourse.org/u/Sara_McGuire)
#### Post date: [Agosto 30, 2023, 3:30am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/10 "2023-08-30T03:30:04Z")
Existe alguma funcionalidade de IA como essa para integração no Discourse? Acho que seria muito útil para auxiliar na moderação da minha comunidade. Por favor, me avise! Procurando soluções para economizar tempo em posts que violam nossas diretrizes.
---
### Author:  [@agemo](https://meta.discourse.org/u/agemo)
#### Post date: [Agosto 30, 2023, 10:58am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/11 "2023-08-30T10:58:47Z")
> [@denvergeeks](#):
>
> O Discourse é uma plataforma ideal para aprender, crescer e construir essas novas ferramentas.
Certamente é, se você for a OpenAI e Cia.
> [@](#):
>
> Estou totalmente a favor de abraçar a revolução da IA como uma “rede neural” descentralizada e interconectada de redes através da qual as sociedades e culturas humanas já existentes podem começar a evoluir e colaborar de forma mais eficiente, e começar a virar a maré contra as pragas da polarização possibilitadas pelas centralizações de poder e controle que nos foram impostas pelas recentes iterações de redes sociais.
>
> Gosto desta visualização…
>
> [Word Galaxy Visualization](https://lusilva.github.io/word-galaxy/)
Claro, o que poderia dar errado! 🤷♂️
Olhando para o discurso.
> A moderação de conteúdo desempenha um papel crucial na sustentação da saúde das plataformas digitais. Um sistema de moderação de conteúdo usando GPT-4 resulta em uma iteração muito mais rápida nas mudanças de política, reduzindo o ciclo de meses para horas. O GPT-4 também é capaz de interpretar regras e nuances em longos documentos de política de conteúdo e se adaptar instantaneamente às atualizações de política, resultando em rotulagem mais consistente. Acreditamos que isso oferece uma visão mais positiva do futuro das plataformas digitais, onde a IA pode ajudar a moderar o tráfego online de acordo com a política específica da plataforma e aliviar o fardo mental de um grande número de moderadores humanos. Qualquer pessoa com acesso à API da OpenAI pode implementar essa abordagem para criar seu próprio sistema de moderação assistido por IA.
Enquanto a OpenAI vende tokens para você usar os passeios no **seu** parque de diversões, um “fardo mental” é substituído por outro “fardo mental” (assumindo que você se importe), você consegue identificá-lo?
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [Agosto 30, 2023, 11:10am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/12 "2023-08-30T11:10:00Z")
> [@agemo](#):
>
> Enquanto a OpenAI vende tokens para você usar as atrações no **seu** parque de diversões, um “fardo mental” é substituído por outro, você consegue identificar?
Sim, é brilhante, não é?
Embora eu esteja absolutamente adorando essa tecnologia e tenha feito meu negócio entender isso o melhor que posso e saber como usá-la melhor, fica claro que a OpenAI (e serviços semelhantes) estão realmente em algo aqui do ponto de vista de negócios.
A implicação é que para cada postagem feita você tem que dar dinheiro para a OpenAI por potencialmente múltiplos motivos (resumo, gramática da postagem, NSFW da postagem, incorporação de perfil, a lista continua).
Antes que você perceba, a OpenAI está recebendo uma parte decente de todo o tráfego do seu próprio site. Toda aquela receita de anúncios e afiliados que você conquistou? Parte dela agora é desviada para eles.
E os provedores de Cloud VPS vão adorar todas as pessoas atualizando seus servidores de 4 GB para suas ofertas de 16 GB para usar modelos de código aberto localmente.
Dito isso, é claro que ninguém fará isso em escala, a menos que seja mais eficiente fazer dessa forma e seja competitivamente importante fazê-lo.
E ainda menos pessimista, outra maneira de ver os serviços prestados é uma democratização da tecnologia que antes só estava disponível para os grandes provedores.
Por exemplo, a busca semântica agora é mais barata do que nunca e pequenas instalações agora podem usar busca poderosa a um ponto de preço muito acessível. Isso certamente tem que ser uma coisa ótima?
O poder do processamento de linguagem natural é surpreendente, mesmo nos modelos mais baratos.
E nós apenas começamos esta nova era, tenho certeza de que os preços cairão à medida que a concorrência florescer.
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Agosto 30, 2023, 11:49am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/13 "2023-08-30T11:49:44Z")
Se você quiser mudar de assunto, por favor, mova seus tópicos para um novo tópico. Obrigado. 🙂
---
### Author:  [@JammyDodger](https://meta.discourse.org/u/JammyDodger)
#### Post date: [Agosto 30, 2023, 11:53am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/14 "2023-08-30T11:53:46Z")
Isso parece estar no tema? As considerações práticas sobre o uso de ferramentas de moderação assistidas por IA?
(Evidentemente que o OP é um pouco aberto, mas os tópicos sobre #Community Building frequentemente são assim)
---
### Author:  [@EricGT](https://meta.discourse.org/u/EricGT)
#### Post date: [Agosto 30, 2023, 11:57am UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/15 "2023-08-30T11:57:36Z")
> [@JammyDodger](#):
>
> Isso parece estar no tópico?
Não. Falar sobre ganhar dinheiro está fora do tópico.
> [@agemo](#):
>
> A OpenAI vende tokens para você
> [@merefield](#):
>
> A implicação é que para cada postagem feita você tem que dar $ para a Open AI
O tópico é sobre moderação.
---
### Author:  [@merefield](https://meta.discourse.org/u/merefield)
#### Post date: [Agosto 30, 2023, 12:05pm UTC](https://meta.discourse.org/t/fyi-using-gpt-4-for-content-moderation-an-openai-blog-entry/275349/16 "2023-08-30T12:05:02Z")
É totalmente relevante e, na minha opinião, certamente não está fora do tópico.
Quantas postagens diárias no site que você administra?
Se você tiver que pagar $ à OpenAI por cada postagem contribuída, isso é uma consideração.
Qual é o valor marginal de uma postagem para sua receita de anúncios, engajamento do cliente?
Tem que se pagar no final para ser justificável.
Não tenho dúvidas de que pode levar a uma redução material nas horas de gerenciamento da comunidade e melhorar a qualidade geral de um site, etc., o que pode estabelecer um forte argumento para isso.
Não se trata apenas da facilidade ou da viabilidade técnica, embora essas coisas precisem ser consideradas?