빈 AI 응답 문제를 해결하는 방법

Ask AI 기능이 응답 제목은 생성하고 있지만, 실제 응답 내용은 비어 있습니다. 어떻게 수정할 수 있을까요?

예를 들어, '최근 게시물의 저자는 누구인가요?'라고 검색했을 때 '최근 게시물 저자’라는 제목은 표시되었지만, 실제 응답은 누락되었습니다.

이 문제는 기본 LLM을 변경한 후에 발견했습니다. 이것이 단순한 우연인지 확실하지 않습니다.
링크: https://business.faktout.com/

로그에는 응답이 올바르게 표시되고 있지만, 검색 상자에 최종 출력이 표시되지 않습니다

답변 형식은 올바르고 스트리밍도 정상적으로 작동해야 하지만, ask_ai 응답에 무려 15.5초가 걸리고 있습니다. 주제가 이렇게 적은 사이트에서 이는 좋은 사용자 경험이 아니라고 생각합니다.

Ask AI는 검색을 포함한 전체 요청에 대해 20초의 마감 시간이 설정되어 있어, 제목과 관련 주제를 표시한 후 타임아웃이 발생하고 있는 것으로 추정됩니다.

답변이 표시되는지 확인하기 위해 이전 모델로 돌아가거나 응답 시간이 더 일관된 제공업체를 사용하는 것을 제안합니다. 이를 통해 요청이 타임아웃되는지 여부를 확인하는 데 도움이 될 것입니다.

  • 이전 모델(gemini 2.5 flash)로 다시 전환했지만, 두 모델 모두에서 문제가 계속되고 있습니다.

  • 다시 시도해 보았습니다. 이번에는 10초밖에 걸리지 않았지만, 답변이 표시되지 않았습니다.

  • 임베딩(embeddings)이나 의미론(semantics)과 관련이 있을까요? 무언가를 초기화하거나 지워야 하나요? 저는 임베딩 제공자를 변경해 본 적이 없습니다.

  • 어째서인지 제 사이트에서 AI 기능은 항상 지연(latency)이 발생했습니다. 사이트가 대부분 비활성 상태(아직 마케팅을 시작하지 않았음)이므로 콜드 스타트(cold start) 문제 때문이라고 생각했습니다. 변경해야 할 설정이 있을까요?

  • 다른 모델(Azure를 통한 grok-4-1-fast-reasoning)로 변경하면 검색이 항상 타임아웃되고, 제목조차 표시되지 않습니다.

    . 어떤 의미론적 문제가 있는 것 같습니다. AI 로그 #1146를 참조하세요.

한 가지 더 테스트를 보여드리겠습니다:
이번에는 쿼리에 3.7+0.9초만 걸렸는데도 불구하고 Ask AI가 타임아웃되었습니다. 다만 로그에는 올바른 응답이 표시되어 있습니다.

이 문제는 데스크톱에서만 발생합니다(쿠키를 삭제하고 서로 다른 브라우저 두 가지를 사용해 보았습니다). 모바일 기기에서는 문제가 없습니다.