AI 헬퍼가 환각(hallucinating, 즉 모른다는 것을 알면서도… 창의적으로 답변을 시작하는 현상)을 일으키기 시작한 시점을 정확히 특정하기는 어렵습니다. 지난 3주 동안 다른 일을 해야 했기 때문입니다. 하지만 오늘 explaining-function은 완전히 쓸모없었습니다.
저는 이전에 이 기능을 활용해 용어와 표현을 독자들에게 설명하는 데 많이 사용했는데, 제게 AI 헬퍼가 제공할 수 있는 가장 가치 있는 기능이었습니다. [1] 물론, 이 기능은 게시물 자체에서 맥락을 찾는 경향이 있지만, 이 정도 수준의 환각은 너무 많습니다.
이것은 프롬프팅과/또는 모델에서 비롯된 것입니다. 저는 OpenAI 고객이고, 프롬프트를 모두 다시 편집해야 하기 때문에 변경할 의향이 없다고 생각합니다. 셀프 호스팅 모델은 선택지가 아닙니다. 저에게는 너무 비싸니까요.
그렇다면 지금 제 현실적인 선택지는 무엇일까요? 사용을 중단하는 것뿐일까요?
수정
4.o-mini를 사용해 왔는데 4.1-mini로 변경했습니다. 더 나은 답변을 받았지만… 일반 지식은 꽤 — '상한선(capped)'이라는 단어가 적절한 표현일까요? 구글이나 다른 것을 사용해야 하는데, 그렇다면 프롬프팅을 편집할 수 있는 기능이 필요합니다. 하지만 이전에 프롬프팅에 대한 토론을 잘 이해했다면, 그건 옵션이 되지 않을 것입니다. 그렇다면 OpenAI를 유지하면서 더 비싼 모델로 전환하는 것이 유일한 선택지일까요?
저도 이 옵션을 내 사용자에게 제공하고 싶지만, 이제 게시된 게시물을 편집할 수 있는 기능이 필요하기 때문에 매우 어렵다는 것을 알고 있습니다. 만약 이 기능이 작성기(composer)에서 작동할 수 있다면 정말 게임 체인저가 될 것입니다. ↩︎
