# AI 요약 기능 피드백
**URL:** https://meta.discourse.org/t/feedback-on-ai-summarisation/275747
**Category:** UX
**Tags:** ai, ai-summarize
**Created:** [6월 15, 2023, 5:39오전 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747 "2023-06-15T05:39:58Z")
**Posts on this page:** 16
**Page:** 1
### Author:  [@Julienlavigne](https://meta.discourse.org/u/Julienlavigne)
#### Post date: [6월 15, 2023, 5:39오전 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/1 "2023-06-15T05:39:58Z")
요약 기능에 대한 피드백입니다. 매우 유망해 보입니다 🙏
☝ 팝업 폭이 충분하지 않습니다
- 요약 길이를 선택할 수 있는 옵션을 제공하면 좋겠습니다. 현재는 150~200단어를 목표로 하는 것 같는데, 일부 주제에는 이 정도 분량이 다소 부족할 수 있습니다.
- 프롬프트를 사용자 지정할 수 있으면 좋겠습니다. 예를 들어 기본적으로 불릿 포인트 형식을 선호합니다.
- 누가 무엇을 말했는지 인용하고 게시글을 참조하는 프롬프트로 실험해 보고 싶습니다.
- AI 요약 기능의 최소 게시글 수 설정을 일반 설정과 분리해 주셨으면 합니다. AI 요약은 게시글 수가 적은 경우에도 유용할 것입니다.
참고로 gpt-3.5에는 현재 16k 토큰 한도를 가진 버전이 있어, 여기에서 매우 관련이 있을 수 있습니다.
그리고 제가 보고 싶은 킬러 기능 2가지는 다음과 같습니다:
- AI 요약 기능을 활용한 일일 요약
- 주제에 마우스를 올려 보일 때 표시되는 요약 (예: 사전 계산된 요약)
---
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [6월 15, 2023, 2:41오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/2 "2023-06-15T14:41:39Z")
> [@Julienlavigne](#):
>
> - 요약 길이에 대한 옵션을 제공하면 좋겠습니다. 현재 150~200단어로 설정되어 있는데, 일부 주제에는 다소 짧게 느껴질 수 있습니다.
> - 프롬프트를 사용자 지정할 수 있으면 좋겠습니다. 예를 들어 기본적으로 불릿 포인트 형식을 사용하겠습니다.
> - 누가 무엇을 말했는지 인용하고 게시물을 참조하는 프롬프트로 실험해 보고 싶습니다.
현재 (OpenAI 또는 Anthropic이 선택된 경우) 단순한 프롬프트를 사용하고 있지만, 현재 작업을 진행 중이므로 곧 변경할 예정입니다.
프롬프트 사용자 지정은 흥미로운 기능이며, 향후 추가될 수 있습니다.
> [@Julienlavigne](#):
>
> AI 요약 최소 게시물 설정을 일반적인 설정과 분리하는 것이 좋습니다. AI 요약은 게시물 수가 적은 경우에도 유용할 수 있습니다.
이번 주에는 답변이 최소 1개 이상인 게시물에만 표시되도록 설정했습니다.
> [@Julienlavigne](#):
>
> 참고로, gpt-3.5에는 16k 토큰 제한이 있는 버전이 있으며, 이는 여기에서 매우 관련이 있을 수 있습니다.
OpenAI의 대형 컨텍스트 모델은 출시 당일 추가했습니다. 현재 선택할 수 있는 모델은 다음과 같습니다:
- 16k GPT 3.5 Turbo
- 32k GPT 4
- 100k Claude
> [@Julienlavigne](#):
>
> - AI 요약 기능을 활용한 일일 요약
> - 주제에 마우스를 올렸을 때의 요약 (예: 사전 계산된 요약)
생성된 요약을 캐시하여 다른 곳에서 사용할 수 있도록 하는 작업이 진행 중이며, 이를 통해 이러한 기능이 활성화됩니다.
---
### Author:  [@Julienlavigne](https://meta.discourse.org/u/Julienlavigne)
#### Post date: [6월 16, 2023, 3:53오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/3 "2023-06-16T15:53:33Z")
> [@Falco](#):
>
> 이번 주에 한 번 이상 답글이 달린 게시글에 대해서만 표시되도록 설정했습니다.
제 사이트에서는 해당 기능이 보이지 않는데, 이를 제어하는 설정이 있나요?
추가 제안 사항:
- 파이프라인에 AI 요약 버튼을 표시하도록 하기.
- 일반 요약을 AI 요약으로 대체할 수 있는 방법 제공.
- GPT 모델을 Azure로 지정할 수 있도록 허용하기. 저희 회사에서는 레이턴시가 현저히 개선된 것을 확인했습니다.
---
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [6월 16, 2023, 4:04오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/4 "2023-06-16T16:04:12Z")
> [@Julienlavigne](#):
>
> 제 사이트에서는 그걸 볼 수 없는데, 이를 제어하는 설정이 있나요?
이번 주에 막 변경한 사항이라, 며칠 내로 사용자의 사이트에 적용될 예정입니다.
> [@Julienlavigne](#):
>
> 파이프라인에 AI 요약 버튼 표시.
여기서 말하는 "파이프라인"은 무엇을 의미하나요?
> [@Julienlavigne](#):
>
> 일반 요약을 AI 요약으로 대체할 수 있는 방법
여기서 볼 수 있듯이 Meta에서는 이미 이 작업을 완료했습니다. 기존 요약은 이제 "상위 답변 보기"라고 불립니다. 버튼의 디자인과 순서에 대해서는 아직 작업 중입니다.
> [@Julienlavigne](#):
>
> GPT 모델을 Azure로 지정할 수 있도록 허용. 저희 회사에서는 지연 시간이 상당히 개선된 것을 확인했습니다.
이것은 저희 로드맵에 포함되어 있습니다!
---
### Author:  [@Julienlavigne](https://meta.discourse.org/u/Julienlavigne)
#### Post date: [6월 17, 2023, 6:18오전 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/5 "2023-06-17T06:18:36Z")
> [@Falco](#):
>
> 여기서 “pipeline”은 무슨 뜻인가요?
불분명해서 죄송합니다. 왜 그 단어를 썼는지 저도 모르겠습니다 :facepalm:
여기서 제가 말한 것은
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [6월 21, 2023, 12:41오전 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/6 "2023-06-21T00:41:48Z")
> [@Julienlavigne](#):
>
> GPT 모델을 Azure로 지정할 수 있도록 해주세요. 저희 회사에서는 레이턴시가 현저히 개선되는 것을 확인했습니다
다음 PR에 따라 처리되었습니다:
>
>
> The new site settings:
>
> ai\_openai\_gpt35\_url
> ai\_openai\_gpt4\_url
> ai\_openai\_embeddi…ngs\_url
>
> Can be used to configure OpenAI support on Azure. If untouched we will simply
> use OpenAI endpoints.
>
> Note: Azure require 1 URL per model, OpenAI allows a single URL to serve
> multiple models.
설정할 때 여러 배포(deployments)를 만들어야 해서 다소 번거롭지만, 잘 작동합니다.
---
### Author:  [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [12월 1, 2024, 4:48오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/7 "2024-12-01T16:48:35Z")
수정됨
Gemini 1.5 Flash를 사용할 때, 요약문에 여러 게시물을 가리키는 링크가 포함되는 경우가 많지만, 이러한 다중 링크는 링크로 렌더링되지 않습니다. 다른 모델들이 다중 링크를 사용하려고 시도하는 것을 본 기억이 없습니다.
단일 게시물에 대한 링크는 올바르게 렌더링됩니다.
해당 응답 페이로드에는 다음과 같은 텍스트가 포함되어 있습니다:
`[사용자 이름은 비공개](/t/-/56915/8, /t/-/56915/13, /t/-/56915/28, /t/-/56915/33, /t/-/56915/36)`
여러 링크를 인용하는 아이디어는 정말 마음에 듭니다. 올바르게 렌더링만 된다면요.
---
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [12월 1, 2024, 5:57오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/8 "2024-12-01T17:57:38Z")
> [@markschmucker](#):
>
> Gemini 1.5 Flash를 사용하면 요약에 여러 게시물의 링크가 포함되는 경우가 많지만, 여러 링크가 링크로 렌더링되지 않습니다.
> [@markschmucker](#):
>
> 해당 응답 페이로드에는 이 텍스트가 포함되어 있습니다:
>
> `[Username redacted](/t/-/56915/8, /t/-/56915/13, /t/-/56915/28, /t/-/56915/33, /t/-/56915/36)`
글쎄요, 그것은 단순히 잘못된 마크다운이라서 작동하지 않는 것입니다.
Gemini Flash가 올바른 마크다운을 생성하지 못하는 것이 안타깝네요. 여기 Meta에서는 요약에 FP8로 양자화된 Llama 3.1을 사용하는데, 이 모델은 적절한 마크다운 링크를 생성하는 데 문제가 없습니다.
---
### Author:  [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [12월 1, 2024, 7:05오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/9 "2024-12-01T19:05:32Z")
> [@Falco](#):
>
> Gemini Flash가 유효한 마크다운을 생성하지 못하는 것은 안타까운 일입니다.
그리고 [haiku도 유효한 상태 코드를 반환하지 못하는 것 같습니다](https://meta.discourse.org/t/why-is-the-mondays-dialogue-showing-up-in-my-summaries/335374/8). 지금까지 요약용으로 시도해 본 모델은 이 두 가지입니다. 다음으로 Llama 3.1을 시도해 보겠습니다.
Mondays 문제나 이 특정 마크다운 문제를 확인하는 것처럼 알려진 문제를 패치하는 것을 고려해 주실지 모르겠습니다. 이상적인 해결책은 아니지만, 그렇지 않으면 좋은 LLM 옵션을 잃는 것보다 나을 수 있다고 생각합니다.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [12월 1, 2024, 7:43오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/10 "2024-12-01T19:43:04Z")
[https://discuss.ai.google.dev/](https://discuss.ai.google.dev/) 에서 잘못된 요약들을 확인하실 수 있나요?
해당 사이트에서는 flash 모델을 사용하고 있습니다. 몇 가지 사례를 링크로 공유해 주시면 프롬프트 엔지니어링을 조금 진행해 보겠습니다.
---
### Author:  [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [12월 1, 2024, 8:16오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/11 "2024-12-01T20:16:32Z")
> [@sam](#):
>
> [https://discuss.ai.google.dev/](https://discuss.ai.google.dev/) 에서 잘못된 요약 내용을 볼 수 있나요?
[Unreliability of Gemini API - Error while creating cache - Gemini API - Google AI Developers Forum](https://discuss.ai.google.dev/t/unreliability-of-gemini-api-error-while-creating-cache/47852)
그것 말고는 바로 눈에 띄는 것이 없긴 하지만, 해당 주제들은 길이가 짧아서 보통 한 사용자가 여러 번 인용되는 경우는 드뭅니다.
---
### Author:  [@sam](https://meta.discourse.org/u/sam)
#### Post date: [12월 1, 2024, 8:47오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/12 "2024-12-01T20:47:58Z")
이 문제는 꽤 쉽게 해결할 수 있을 것 같습니다. 여기 예시를 개선할 수 있으니까요. 현재 프롬프트는 다음과 같습니다:
`You are an advanced summarization bot that generates concise, coherent summaries of provided text.\n\n- Only include the summary, without any additional commentary.\n- You understand and generate Discourse forum Markdown; including links, _italics_, **bold**.\n- Maintain the original language of the text being summarized.\n- Aim for summaries to be 400 words or less.\n- Each post is formatted as \") \"\n- Cite specific noteworthy posts using the format [NAME](/t/-/31793/POST_NUMBER)\n - Example: link to the 3rd post by sam: [sam](/t/-/31793/3)\n - Example: link to the 6th post by jane: [agreed with](/t/-/31793/6)\n - Example: link to the 13th post by joe: [#13](/t/-/31793/13)\n- When formatting usernames either use @USERNMAE OR [USERNAME](/t/-/31793/POST_NUMBER)`
이것은 다소 모호하게 느껴집니다. 다음과 같은 것으로 명확히 할 수 있습니다:
>
하지만 근본적으로 @Roman / @Falco, 우리는 이 프롬프트들을 소스 코드 트리에서 제거하고, 커뮤니티가 조정하고 더 잘 작동하는 것을 공유할 수 있도록 페르소나에 포함시켜야 할 것입니다.
약한 모델들을 위해 특별한 경우의 프롬프트가 필요하게 될 것이라고 해도 놀라지 않을 것입니다.
"예시"에 대한 지원이 있다면 페르소나가 여기서 매우 잘 작동할 것입니다. 이는 큰 부담이 되지 않을 것 같습니다. 그렇지 않다면 CompletionPrompt로 이동시키고 UI를 제공해야 합니다.
---
### Author:  [@Roman](https://meta.discourse.org/u/Roman)
#### Post date: [12월 2, 2024, 2:09오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/13 "2024-12-02T14:09:08Z")
프롬프트를 사용자 필요에 맞게 맞춤화하여 모델의 기능을 최대한 활용하는 아이디어를 좋아합니다. 또한 페르소나를 더 기능 비종속적인 개념으로 전환하는 것도 좋은 아이디어라고 생각합니다.
---
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [12월 2, 2024, 3:24오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/14 "2024-12-02T15:24:35Z")
> [@sam](#):
>
> 하지만 근본적으로 @Roman\_Rizzi / @Falco, 우리는 이러한 프롬프트를 소스 코드 트리에서 제거하고, 커뮤니티가 조정할 수 있고 더 잘 작동하는 것을 공유할 수 있도록 페르소나에 포함시켜야 할 것입니다.
이것은 우리가 올해 동안 논의해 온 “페르소나 함수” 또는 "준비된 문구(prepared statements)"의 기본 개념입니다. AI Helper, Summary, Search 등 모든 것을 이러한 방식으로 사용하도록 이동하고, 사용자 정의 항목을 만들 수 있도록 하며, UI에서 이러한 항목을 특정 기능과 연결할 수 있는 UI를 제공할 것입니다.
시드된 항목을 업데이트하여 다른 형식(예: XML에서 JSON으로)을 배포할 때는 상황이 더 복잡해지므로, hopefully 이 부분은 내년 중으로 구축을 고려할 수 있기를 바랍니다.
---
### Author:  [@markschmucker](https://meta.discourse.org/u/markschmucker)
#### Post date: [12월 28, 2024, 3:40오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/15 "2024-12-28T15:40:40Z")
> [@sam](#):
>
> 저한테는 꽤 쉽게 수정할 수 있는 것 같습니다.
최근 몇 가지 게시물 내용을 완전히 이해하지 못하겠습니다. 여전히 잘못된 요약이 표시됩니다. 페르소나 관련해서 제가 특별히 시도해 볼 수 있는 것이 있나요, 아니면 여러분이 논의 중인 리팩터링을 기다려야 하나요?
---
### Author:  [@Falco](https://meta.discourse.org/u/Falco)
#### Post date: [10월 3, 2025, 3:42오후 UTC](https://meta.discourse.org/t/feedback-on-ai-summarisation/275747/16 "2025-10-03T15:42:45Z")
4개의 게시물이 새로운 주제로 분리되었습니다: [DeepSeek JSON 응답 형식 문제 처리하기](https://meta.discourse.org/t/dealing-with-deepseek-json-response-format-issues/384640)