여러분, 안녕하세요!
저는 기계 학습 박사 과정 학생입니다. 디스코ourse 포럼의 콘텐츠 모니터링을 돕기 위해 누구나 맞춤형 AI를 훈련할 수 있는 도구를 만들어 보려고 고민하고 있습니다. 여기 계신 분들이 이런 기능을 원하시나요?
구글 Perspective API가 있다는 건 알고 있지만, 이 API는 매우 범용적입니다. 제 아이디어는 게시물을 모니터링하면 자동으로 텍스트 분류기를 훈련시켜 여러분의 모니터링 활동에서 학습할 수 있는 플러그인을 만드는 것입니다. 예를 들어, 특정 게시물을 독설적이거나 주제에서 벗어난 내용으로 표시하면, 시스템이 이를 학습하여 유사한 게시물을 자동으로 표시하거나 사전 모니터링까지 수행할 수 있습니다.
여러분은 어떻게 생각하시나요?
이 기능이나, 커스텀 학습 모델을 기반으로 미분류된 주제들을 자동 분류하는 기능도 있으면 좋겠습니다.
텍스트 분류기(예: 포럼에서 사용됨)는 이미 오래전부터 존재해 왔습니다.
일반적으로 이러한 유형의 텍스트 분류 및 스코어링은 베이지안 분류기를 사용하여 수행됩니다.
다음 키워드로 Google 검색을 해 보시면:
bayesian classifier ruby
그리고/또는
bayesian classifier javascript
베이지안 분류기를 활용한 텍스트 분류에 대한 수많은 라이브러리와 예제를 찾으실 수 있습니다.
저희는 수년간 포럼 게시물 관리, 스팸 감지 등에 다양한 베이지안 분류기를 사용해 왔으며, 관리자가 관리 작업을 수행할 때 분류기를 학습시키기 위한 맞춤 코드를 구현해 왔습니다.
도움이 되셨으면 좋겠습니다.
여기서 잠재적인 문제는 많은 모더레이션 작업이 단순한 처벌이 아니라 "주제를 12시간 동안 닫기"나 “이것은 위키 포스트여야 한다” 또는 "이것은 다른 카테고리로 이동해야 한다"처럼 더 복잡한 경우가 많다는 점입니다.
화이팅하세요!