いや、心配しないで、ほぼ片付けたよ。
これは非標準的な形状なんだけど、例えばvllmは、Open AIが最近レスポンスで直面している問題には影響されにくい。
とにかく、PRはもうすぐ上がるはずだよ。指摘してくれてありがとう。