와, 이건 정말 상당히 고급스러운 내용입니다.
커스텀 도구가 충분히 풍부한 기능을 갖추면 이걸 해낼 수 있을 것 같긴 한데… 좀 루브 골드버그 머신처럼 느껴지긴 합니다. 하지만 한번 상상해 보세요.
- IF 페르소나를 가진 구성이라면:
- 도구 호출을 강제하고
- 강제된 커스텀 도구가 매개변수가 전혀 없다면
- THEN LLM을 호출하지 않고 단순히 제어권을 도구로 넘깁니다.
- THEN 제어 역전(inversion of control) 방식으로 도구가 결과를 앱으로 스트리밍할 수 있도록 충분한 인프라를 제공합니다.
꽤나 방대한 변경 사항이라 유지보수가 정말 까다로울 것입니다.
대안으로, Discourse-AI에 종속되는 새로운 커스텀 플러그인을 정의하고, 자신의 Dialect와 Endpoint를 정의하는 방법이 있습니다. 이 방법이 확실히 가장 간단한 접근 방식입니다.