设置缺少描述

你好 :wave:

这个优先级很低。
设置中缺少一些描述。

ai hugging face api key
ai hugging face token limit
ai hugging face model display name
ai hugging face tei endpoint
ai hugging face tei api key
ai gemini api key
ai vllm endpoint
ai vllm api key
post ai helper allowed groups
ai embeddings per post enabled

谢谢 :slightly_smiling_face:

6 个赞

@Don

正在对 AI Bot 进行一次试驾(设置角色)

理解站点设置 AI

Saif:

解释以下站点设置

ai hugging face api key
ai hugging face token limit
ai hugging face model display name
ai hugging face tei endpoint
ai hugging face tei api key
ai gemini api key
ai vllm endpoint
ai vllm api key
post ai helper allowed groups
ai embeddings per post enabled

gpt4_bot:

查找站点设置上下文

正在读取上下文:ai_hugging_face_api_key

`ai_hugging_face_api_key` 是 Discourse 论坛的站点设置,安装了 Discourse AI 插件。此设置用于存储用于身份验证 Hugging Face API 请求的 API 密钥。该密钥是调用 Hugging Face 模型以实现各种基于 AI 的功能(如文本生成、语言建模等)的关键组件。

以下是为此设置提供的上下文的详细说明:

  • 它在插件的 settings.yml 中定义,默认值为空字符串,表示默认未设置密钥。secret: true 参数表示此设置是敏感的,应视为机密信息。
  • hugging_face.rb 文件中有一个引用它的代码,该代码准备了一个 HTTP 请求,如果 ai_hugging_face_api_key 存在,则会添加一个 Authorization 标头。这在处理需要身份验证的 API 请求时是标准做法。
  • 上下文片段还包含与另一个设置 ai_hugging_face_token_limit 相关的一些逻辑,这表明它与限制 AI 模型生成的令牌(文本片段)的数量有关。

此设置需要由拥有 Hugging Face API 密钥的用户提供,才能使 Discourse 论坛能够与 Hugging Face 服务通信。

让我们找出您询问的其他设置的上下文。

查找站点设置上下文

正在读取上下文:ai_hugging_face_token_limit

查找站点设置上下文

正在读取上下文:ai_hugging_face_model_display_name

查找站点设置上下文

正在读取上下文:ai_hugging_face_tei_endpoint

查找站点设置上下文

正在读取上下文:ai_hugging_face_tei_api_key

以下是您询问的每个站点设置的说明,按其目的排列:

Hugging Face API 设置

  • ai_hugging_face_api_key:此设置包含用于在 Discourse 中进行 AI 功能的 Hugging Face 服务身份验证的 API 密钥。这是一个秘密设置,意味着实际密钥值不会以明文显示,以确保安全。

  • ai_hugging_face_token_limit:此设置确定 Hugging Face 模型在单个 API 请求中允许生成的令牌的最大数量。令牌可以被视为句子中的信息片段(如单词),限制数量可以控制模型响应的长度和计算成本。

  • ai_hugging_face_model_display_name:正在使用的 Hugging Face 模型的显示名称。此名称在用户界面中用于引用为 Hugging Face 服务配置的特定 AI 模型。

  • ai_hugging_face_tei_endpoint:这是 Hugging Face 文本嵌入接口 (TEI) 的端点 URL。在为文本嵌入服务发出请求时使用。

  • ai_hugging_face_tei_api_key:与 ai_hugging_face_api_key 类似,此设置专门存储访问 Hugging Face 文本嵌入接口的 API 密钥。

其他 AI 设置

  • ai_gemini_api_key:Gemini AI 服务的 API 密钥,将用于 Discourse 中与 Gemini 提供的任何服务相关的 AI 操作。

  • ai_vllm_endpoint:访问大型语言模型 (VLLM) 服务的端点 URL,此设置将告知 Discourse 将语言模型相关任务的请求发送到何处。

  • ai_vllm_api_key:用于身份验证 VLLM 服务端点的 API 密钥。

Discourse AI 权限和功能

  • post_ai_helper_allowed_groups:此设置指定哪些用户组被允许在其帖子中使用 AI 助手功能。它可以是逗号分隔的列表或特定的组名。

  • ai_embeddings_per_post_enabled:启用后,这将允许为每个帖子嵌入 AI 生成的内容。本质上,这允许 AI 在正确配置时根据每个帖子生成响应或附加内容。

每个设置在配置 AI 服务如何与您的 Discourse 实例交互方面都起着作用。API 密钥和端点的具体设置将取决于您订阅并打算与论坛集成的外部 AI 服务,以增强内容生成、摘要或其他智能操作等功能。

Saif:

用一句话描述每个站点设置

gpt4_bot:

  • ai_hugging_face_api_key:用于在 Discourse 中进行 Hugging Face AI 集成身份验证的 API 密钥。
  • ai_hugging_face_token_limit:Hugging Face AI 在每次请求中可使用的最大令牌数。
  • ai_hugging_face_model_display_name:Hugging Face AI 模型在用户界面中显示的名称。
  • ai_hugging_face_tei_endpoint:Hugging Face 文本嵌入的 URL 端点。
  • ai_hugging_face_tei_api_key:用于 Hugging Face 文本嵌入的 API 密钥。
  • ai_gemini_api_key:用于 Gemini AI 服务的 API 密钥。
  • ai_vllm_endpoint:用于与大型语言模型服务交互的端点 URL。
  • ai_vllm_api_key:用于身份验证 VLLM 服务的 API 密钥。
  • post_ai_helper_allowed_groups:允许访问 AI 助手功能的用户组。
  • ai_embeddings_per_post_enabled:用于为每个帖子启用或禁用 AI 生成的内容嵌入的开关。
更简单的站点设置说明 AI

Saif:

尝试更简短、更简单的解释

gpt4_bot:

  • ai_hugging_face_api_key:用于 Hugging Face AI 集成的 API 密钥。
  • ai_hugging_face_token_limit:Hugging Face AI 每次请求的最大令牌数。
  • ai_hugging_face_model_display_name:Hugging Face AI 模型显示的名称。
  • ai_hugging_face_tei_endpoint:Hugging Face 文本嵌入的 URL 端点。
  • ai_hugging_face_tei_api_key:Hugging Face 文本嵌入的 API 密钥。
  • ai_gemini_api_key:Gemini AI 服务的 API 密钥。
  • ai_vllm_endpoint:大型语言模型服务的端点 URL。
  • ai_vllm_api_key:用于身份验证 VLLM 服务的 API 密钥。
  • post_ai_helper_allowed_groups:允许使用 AI 助手功能的用户组。
  • ai_embeddings_per_post_enabled:用于每个帖子生成 AI 内容的开关。

我们很快就会尝试将这些添加到站点设置中。

2 个赞

有几处需要改进,但总体来说很好

1 个赞

编辑了一下 @Falco

  • ai_hugging_face_api_key: Hugging Face API 的 API 密钥
  • ai_hugging_face_token_limit: Hugging Face API 每个请求可用的最大令牌数
  • ai_hugging_face_model_display_name: Hugging Face AI 模型显示的名称
  • ai_hugging_face_tei_endpoint: Hugging Face 文本嵌入 API 运行的 URL
  • ai_hugging_face_tei_api_key: Hugging Face 文本嵌入的 API 密钥
  • ai_gemini_api_key: Google Gemini API 的 API 密钥
  • ai_vllm_endpoint: 大型语言模型 API 运行的 URL
  • ai_vllm_api_key: 大型语言模型 API 的 API 密钥
  • post_ai_helper_allowed_groups: 允许访问 AI 助手功能的群组
  • ai_embeddings_per_post_enabled: 在主题内启用每个帖子的嵌入
2 个赞

已修复

3 个赞