AI 봇 스트리밍을 멈출 수 없어요

안녕하세요 :wave:

gpt4o mini가 이상해져서 1시간 넘게 스트리밍을 멈추지 않고 있어요. 일시정지 버튼을 눌러도 아무 반응이 없거나, 잠시 멈췄다가 다시 이어져요. 온도가 너무 높게 설정된 것 같아요. 이걸 멈출 수 있는 방법이 있을까요? 계속 랜덤한 내용을 쓰고 있어요. :sweat_smile:

감사합니다 :slight_smile:

1개의 좋아요

아니… 이게… 어디서?

개인 메시지에서.

일시정지 문제에 대한 재현 방법을 가지고 있습니다… 확인 중입니다… 분명히 버그입니다. cancel이 취소되지 않고 있습니다.

2개의 좋아요

재구축하면 중단될까요, 아니면 재개될까요?

컨테이너를 재시작하면 중단됩니다

1개의 좋아요

샘, 고마워요! 잘 됐어요! 다행히 gpt4o mini뿐이었어요 :sweat_smile:

그들이 생성한 한도를 초과해서 청구할 수 있다고 생각하지 않습니다. 그건 상대방 쪽의 버그이니까요.

하지만 리팩터링 중에 제가 이 문제를 일으켰네요. 곧 병합하고 여기에 테스트를 추가하겠습니다.

3개의 좋아요

이제 이해했어요. 수정해 주셔서 감사합니다! :slightly_smiling_face:

방금 머지했습니다. 테스트도 있으니, 아티팩트로 직접 플레이해 보세요 :slight_smile:

2개의 좋아요

아니, 할 수 있다. 직접 경험해 봤다.

1개의 좋아요

이 주제는 마지막 답변 후 3일 만에 자동으로 닫혔습니다. 새로운 답변은 더 이상 허용되지 않습니다.