カスタムトークナイザーでAIモデルを使用する方法

ありがとうございます。それで、Kimi Instruct TikToken/BPEトークナイザーに最も近いトークナイザーを選び、モデルから最も正確な出力を生成するために、ChatGPT、Gemini、Grokのサービスを利用することにしました。

正直なところ、現代のAIモデルは人間社会をかなりよく表していると思います。彼らは皆、どのトークナイザーが最適かを推論し、その結果を発表しましたが、いくつかの事実については意見が異なり、それぞれがどれが最高かについて独自の考えを持っていました。人間プロジェクトチームと非常によく似ていて、同じ方向に向かっているものの、コンセンサスには至っていない、実に面白いです!!! :rofl:

ちなみに、Geminiは(中国の創設者との関係から)Qwenを、Grokは(cl100k_baseとの類似性と全体的な効率性に基づいて)Llama3を推奨し、ChatGPTはQwenまたはLlama3のどちらかだと言っていました - :joy: