ありがとうございます。それで、Kimi Instruct TikToken/BPEトークナイザーに最も近いトークナイザーを選び、モデルから最も正確な出力を生成するために、ChatGPT、Gemini、Grokのサービスを利用することにしました。
正直なところ、現代のAIモデルは人間社会をかなりよく表していると思います。彼らは皆、どのトークナイザーが最適かを推論し、その結果を発表しましたが、いくつかの事実については意見が異なり、それぞれがどれが最高かについて独自の考えを持っていました。人間プロジェクトチームと非常によく似ていて、同じ方向に向かっているものの、コンセンサスには至っていない、実に面白いです!!! ![]()
ちなみに、Geminiは(中国の創設者との関係から)Qwenを、Grokは(cl100k_baseとの類似性と全体的な効率性に基づいて)Llama3を推奨し、ChatGPTはQwenまたはLlama3のどちらかだと言っていました - ![]()