discourse ai で `input must have less than 8192 tokens` が発生する警告

[Falco]

そのモデルをセルフホストする場合、最大32kトークンまで使用できます。

それが不可能であれば、プロバイダーで許可されている最大値に制限するように埋め込みモデルを設定する必要があります。これにより、AIボットRAGはアップロードされたファイルをチャンクに分割し、関連トピック/検索は各トピックの最初の8192トークンのみを取得します。