奇怪的问题,但它确实设置了上下文的大小。
我想知道升级过程中是否潜藏着什么错误。
我还想添加一个“摘要”策略,该策略将允许使用较少的 token 数量来处理巨大的上下文。(对于每 N 个 token,将 token 摘要为重要的关键信息)