# 커스텀 AI 콘텐츠 모더레이션
**URL:** https://meta.discourse.org/t/custom-ai-content-moderation/166783
**Category:** Development
**Created:** [10월 9, 2020, 3:31오후 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783 "2020-10-09T15:31:32Z")
**Posts on this page:** 4
**Page:** 1
### Author:  [@Razcle](https://meta.discourse.org/u/Razcle)
#### Post date: [10월 9, 2020, 3:31오후 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783/1 "2020-10-09T15:31:32Z")
여러분, 안녕하세요!
저는 기계 학습 박사 과정 학생입니다. 디스코ourse 포럼의 콘텐츠 모니터링을 돕기 위해 누구나 맞춤형 AI를 훈련할 수 있는 도구를 만들어 보려고 고민하고 있습니다. 여기 계신 분들이 이런 기능을 원하시나요?
구글 Perspective API가 있다는 건 알고 있지만, 이 API는 매우 범용적입니다. 제 아이디어는 게시물을 모니터링하면 자동으로 텍스트 분류기를 훈련시켜 여러분의 모니터링 활동에서 학습할 수 있는 플러그인을 만드는 것입니다. 예를 들어, 특정 게시물을 독설적이거나 주제에서 벗어난 내용으로 표시하면, 시스템이 이를 학습하여 유사한 게시물을 자동으로 표시하거나 사전 모니터링까지 수행할 수 있습니다.
여러분은 어떻게 생각하시나요?
---
### Author:  [@Terrapop](https://meta.discourse.org/u/Terrapop)
#### Post date: [10월 9, 2020, 3:34오후 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783/2 "2020-10-09T15:34:33Z")
이 기능이나, 커스텀 학습 모델을 기반으로 미분류된 주제들을 자동 분류하는 기능도 있으면 좋겠습니다.
---
### Author:  [@neounix](https://meta.discourse.org/u/neounix)
#### Post date: [10월 10, 2020, 2:38오전 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783/3 "2020-10-10T02:38:31Z")
> [@Razcle](#):
>
> 여러분의 생각은 어떠신가요?
텍스트 분류기(예: 포럼에서 사용됨)는 이미 오래전부터 존재해 왔습니다.
일반적으로 이러한 유형의 텍스트 분류 및 스코어링은 베이지안 분류기를 사용하여 수행됩니다.
다음 키워드로 Google 검색을 해 보시면:
```plaintext
bayesian classifier ruby
```
그리고/또는
```plaintext
bayesian classifier javascript
```
베이지안 분류기를 활용한 텍스트 분류에 대한 수많은 라이브러리와 예제를 찾으실 수 있습니다.
저희는 수년간 포럼 게시물 관리, 스팸 감지 등에 다양한 베이지안 분류기를 사용해 왔으며, 관리자가 관리 작업을 수행할 때 분류기를 학습시키기 위한 맞춤 코드를 구현해 왔습니다.
도움이 되셨으면 좋겠습니다.
---
### Author:  [@riking](https://meta.discourse.org/u/riking)
#### Post date: [10월 10, 2020, 3:07오전 UTC](https://meta.discourse.org/t/custom-ai-content-moderation/166783/4 "2020-10-10T03:07:09Z")
여기서 잠재적인 문제는 많은 모더레이션 작업이 단순한 처벌이 아니라 "주제를 12시간 동안 닫기"나 “이것은 위키 포스트여야 한다” 또는 "이것은 다른 카테고리로 이동해야 한다"처럼 더 복잡한 경우가 많다는 점입니다.
화이팅하세요!