IA está sendo cortada antes de terminar de escrever

Suporte
1

Então, tenho recebido relatos no fórum (e também experienciei isso pessoalmente) de que a IA simplesmente não termina de escrever. No início, achei que fosse o modelo sendo apenas um modelo, então não dei muita importância… exceto que hoje, ao verificar, descobri que o modelo está respondendo completamente, mas algo na interface está cortando a resposta. Isso acontece também com posts de automação. Fiz um para gerar um resumo semanal do fórum e ele simplesmente não “termina” de escrever o post.

IMG_0021
IMG_00211320×2868 304 KB

data: {"nonce": "e90626a4a8", "candidates": [{"content": {"parts": [{"text": "O controle longitudinal em carros HKG (Hyundai, Kia, Genesis) com direção angular (LFA2) é uma área de desenvolvimento ativo no sunnypilot. Não se trata simplesmente de finalizar uma \"portação de carro regular\"","thoughtSignature": "CiQBcsjafFMGRiE4o6w0sZw7zZuBte9C9oTrfuwIjpQbPpnU6LcKagFyyNp80bv/vTM9jEh7sXozJX9m4GNmtqQNBRvWMKCoXmyhWHMpmW23o4jDekxbAxK465e1GXi3reCTEl6+21CUt9lIcqzyatOnIhAnGxXBspsD+t8+V0j2wC+YZDjkQW9Mr0jyNXKoELgKhQIBcsjafG5PrYkNwgx9YUITe3HZjvx5SzncZ2Ojy5sxTUuEUn/nyPubl1+JuTag9iAI5momjZYGu2Ikq2GQsrweK4FSZP8KJtZ0fnyY6hEYN//6a7gubhoO/rzu1/sTKc/NDt3oVx0kPZ+sW1XlYaRk3CbKfboRV+6BTcBfto0QL7ybvEQI9TpKrh7bEwESz1P1/HMip/XFdIzUxFRbIxXoBk2E/6WZkiO59uNePOixBScYV5MqzTgh+k06cUKXH8Jo+GKR6psIqwRluCiPLMkIatBp3wAnBdVjXFy1HRP1XxBGGYlrm/IxKSKryOl1OCOmG7+p4hQgms528e6jzClI7XPJ4zkK5QEBcsjafCXaY4ii0jCt1BWnhv7OLCOZsFsJUndy+KGnLoPD8MoNgoZm8lo6jf/V+NIFnMKCsdbB8zuGN4vzsuIFVNOKF4T96cvvAr1c7cMFhrapkeHBgHElQ8oVqVJbAWs9bYSMYisp1ir4zrYku8OAmia7PGfIpGDuRjKftW7qRtUftiba6SWcS0IX+fHwkmop6IZzB7CpWXkOJUso9fZzF2ZIzKkxSWM0HrKCr0kXF4+iLi7aoiFmbOxZiQAyEf4rdkxWSd4NMtqoDeHetDCrofWhbS8psN19XS41FptlkVtqimkvCtgBAXLI2nwL5IX8V/R9MzwZqCOGPLh6O4YDHwyzcPl6F0eJJ3BmuNVR14dswLOaE6SUhs6113jLWLUJk+RVe0BhztFBivv72MtMC7PeH6IlN7XA6Siozgz9H0AvLmPVOJPF6+dLhwzguDd/xaQOeVtn5ovKM0Zvto+6EC509IfNniu05+AsrgFCrO1Q3ck2IZP77Mfty/69hEpGM/QEJAtLyofnuND+O11ib09yQ/iXjCsxnPS1JUz/t3+LXNC1NtGu6CwZtLbuzP7ILHyhfZv5W8SH6KWKRvsnCtYBAXLI2nxU4u+DiCPWQyOenB5E06f9BUaemo2dWG6KK+umyOR39awa5bj3AXw07bStW1TPhedwSsBXbluHhtHbKYXdXiZZde1ub3mYpC3kHZ5B7nmKrDET29HtXGArCQn+Acq17X0k/ixqEWTLJN/jNLwQ6uDsFAajEyurBoHjdzYUcI2Xv2UnGfJcMcIwExfaRpFKSC1YRcSM+yQ3h6t/q93obZPNgubRnCtkzoLIoefeR4FZX/+b8EU5E2cstCkKK1mCrdspzlkc5OZS4LPu0hC0RMY3QgrYAQFyyNp82O39p8+kFI3YKdKX29TuoJsJvuW4vdQq9PakjWL3l1UMMK17BvJlpdEVv2Q88FC1Ka3Rrvgh7aB5fhS/1QqRvy2eCZlpS1tIHo8rGnAjiQnV435CP3jsRpfbmEHS6QS8C3fJV4WJ8ATi5gFe7WzbwuU4vryoApHLp6Z6lswkHbiYo9Km5xDB4QlvW88l5iti1zOu1DU8+RMzFXCUmJdgrb84W505vQ/Q+tjYACDQCnggwTWNoBe7qOYciTk3yXDnEpnp4Sok+FveuQZFtTs9nKrMpArOAQFyyNp8/OxVTWuH3pg1tFJWG6p/rYgEsK8ZQoFPbIih9mMUhzAbiKuEcAe/y+9c0hXrU4+MkyqvVD6H63s9Wrkh15fHTJDaWfex7WsiElxL2GsgbuV++HzKHrsdya+3e2QZpVngj2NNFrVjAKGIl0mH4u/Y7ybDUaNhmpjDK6bfalsta8IrUoKOw7WqNe0ald+P8XrGy8Bwnp43yV1G34aok06uim7IFSgixF3itjmnP4eldG5x0sy7E2mNUdGfdN2btnTKLLPKmsgjfC2lCucBAXLI2nwFCNwbEBoafguzpMjuCxN7NkllOt4Br8qAHbjl4y84ctU4UWKyvVNK3hQJ5Da/HT/1Hg1VIJfR3dDIzKsqiC6VfgeFlg6Sz/pl2f/k5zZj1zPTfW7AfsCr6nerDPAAPI33NPhnStDod8E++VdsvISm/0AYqbYpZ7nn5Fnshtc4GwDzdnIewCil0x4QzCPBaIe4Myy56bQLuOqUzcAPwoPp7u9nVNMriBkwWLZkLwWgvZ0JwzkM6Cq5/q1n0S3UCC9niyxpo2DSH5Jtcp6LBFjphOctAgsNHhaR6iS9Y7aQLJRkCucBAXLI2nxqPFreWTEgzpPskwyhP3c+BmWOU97SF67kM29n+F6B4S+1R7zyWnt32nbKCUXImy/+K713O4iApefGw8uMXQi3JBd73Rh23V2+yflfc8ioEkfOj92wLD1dw1mNLin3TRBJXnJi7dZGjOlBUuoAbQqDgdyhUDBv9QmSUiawZwLR5TRgstfbjvCcZLwadjp9Mg1+iKaoblu1MWF5J3Qj/DAVQn2JzRT9b7YMntlPXczrCSPI76LzLxeVVMxwKNrcohDz93mGR29iuGK2Y7Xd7EdX1v6+YG47J3AbdBeGoyOVMd+PCpMCAXLI2ny7Y1WDW8MWZqt24bjtPzOSnxKdoGtflzCSb9j39+nZRb71gd+dZ4l+ge25jzx+Xbir/yQLqo9Sj2ARI7WGNmR68WfE7JbYb/vFoJpGeL4o72h/LgCfot6HIXk/+ol77SpnAq0lrF1b2DZ+xaSNYevOWbwVhPkmPlae2eU4UWE6TLTsrzbzV2QtFbO4rAJVGW1GAs0RNtwIszKSKL29huHEtr+PUI/KuQpA4ZFkJe2S4uAktty2YuNkgsSU6ceCWo1rVUmtRyILKGKdR4hVaX2HmbtAbJmZ1kQsBlyq08TldBTxyfk6yQYBnn26ZpXN4wzxusC6LvCwLLvyWxb8HVI9yJpvBThI5kUiRWZpcLwK3AEBcsjafKWLGNajcg6g9PbgvTUFkAYNH2+V/hdR72UKmKdD4LCnk9Qw40Rf8i3eVdPjT/fXIyd/U14LPisMhQogxXjm72KdgYL8W72+4r5yC+6hDL5u1mvimI0iXkPcodW3/vvY0wxx3QLeIItyeaNXMXdB4ohrNRgCaNyCQfpQ0bMT5lPa5DfwWww76AXxjpVxs4TgBni1slWVO8nruqyLZhG1rMLCI6WP37bspYILKGOKHWF0OKF60gZL6bmqMpASDiqi7Pg2Tzv+idvfC3ca/R/dQsHIL6L/edaiCocCAXLI2nwGVYCk1kVAwDrW+H5fzwuQSWiVTAnAvPYv3ElvDrxsEVrT82ZKdJ5IExzlXjvbYZGlgjo5kPePWKBX1QVAl842pOLSb/eDSzDpD6YAJ7+0JV+y+2h7LpyiFUdG2mX3j2QAkslAu3/VDr1LRIGuv58Qwbo7py5BdnDLIb45Y8iPmzl40jc29Xcq/sRh7nKMVtBAUK5HRVLkEuY2eW8UUr43L+Zdm1LEkLXz0fcYHPSaWO1pVisoBBaxvKzMEyhi4eBV06DTKA7jzqBfIy+A1o9rtO9Y64XnUrHEwjQ+jxQDTrWGoLh9j4f9A95tu4SmDrC58Sm/EgVfzo88nkQmO0JiBDgK/QEBcsjafLzEkSnVLMQ1vde+FBjpiK3hBfBSGVk1km2Lqk+ZToTj0sWE/8BcUQ72iHt3jMUs3VZN15qci8trtGE8Ua1LQ+B9akbQ2byUpT5WizmbT54kgA+B8vU/wiq2El86k4mutbdwTuNtSt3nZsjPFWuKEGu+zoO0GeGtQkAU6XOgNK6mPapAfNIojRVLQdrkcQM8W3ZkU/iQ/DHzkmqOo4oAqiJVgTxrDFx2my/Sn0rfa9P3DEy5/NsnJpJMWcjrXfWpPl/jEZF47RCwffyKX8FJqTNNowdwnLb1/2ElbxQ9zQppn408BAwrIDCbpFlZ+GqAYzSLDuacaTWwCpgCAXLI2nzRpsiZpsCeuOTo6Y8d989U4ORaixkC4WQEIywlFZf8HiMthqXlbf1VSD9OgfAfZc7chyD2aydT1xQd+gjhIu1vXaHbBO0qSfTt+B/z+JRDGEiww1XjYYSdCGRm9/XSI8npyowXXXlcVYUsKsLIqu5IVA8IslzWhIFbhkKMe0kP/FS6zqR66oXX2t/nlJ95cmrD/wC9oqFaXCx7qcSDljXwL06tBHWdKwWrkO6YP0733d8jCHcWtVrfbxGus5T8FkUAJnBY3oKSPLQPA5d7hvPovyrFMl+xs5Mv3iSKTIFlc3VfQgJjO8Kq4QqoLP57qcHBeYeO4D9Ab5cVDXNOR/0V7Ur+cZdjQUWib+99bIW3NmWQ8wrdAQFyyNp8wAY11eQeRNEY9azg+mu/DGxbhqhOGziyEjLF6sXUDgTGHN6PJXY142XdwCyGNI+EXTUpxpOImxoaSK0GNzKr8kNTVhMs/L4QzbJOWFEGQli8biuYlky36BwAVzX9NVKAFmuzPdbPqpK6jfAnr3pdvNnayoBRIp5KPNNqDQwwgWXjn8NJTZ9pq5OztlvR4WS/nwhxuCUbh8+8AkYyKX2xz0QNbDyogiavC8RRbUntPhgj04f945hlVK4LpahO8fFiqJJRkDha02ALGZCISVrlpZvTnSgZP1ej"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 48,"totalTokenCount": 21305,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "f743860cb8", "candidates": [{"content": {"parts": [{"text": "\" no sentido tradicional, pois esses veículos utilizam uma nova API de controle que requer implementação especializada.\n\nAqui está um resumo da situação com base nas discussões na comunidade:\n\n*   **Nova API de Controle:** Direção angular (LFA2)"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 98,"totalTokenCount": 21355,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "fd16d9ff", "candidates": [{"content": {"parts": [{"text": " refere-se a uma nova API de controle da Hyundai, Kia e Genesis, que se aplica principalmente aos modelos de 2025 em diante. A implementação do sunnypilot precisa se adaptar a esse novo sistema.\n*   **Ramos de Desenvolvimento:"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 147,"totalTokenCount": 21404,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "4f85", "candidates": [{"content": {"parts": [{"text": " Existem ramos específicos de desenvolvimento para direção angular, como `hkg-angle-steering-2025` (desenvolvimento ativo) e `hkg-angle-steering-2025-prebuilt` (teste estável"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 195,"totalTokenCount": 21452,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "9ca7bd", "candidates": [{"content": {"parts": [{"text": ").\n*   **Em Andamento:** Alguns ramos, como `hkg-angle-steering-2025-hda1`, estão atualmente paralisados, pois outros ramos principais (`ccnc` e `hkg-angle-steering-branch"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 246,"totalTokenCount": 21503,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "fb9ecd1b15a7", "candidates": [{"content": {"parts": [{"text": "-2025`) precisam convergir primeiro. Isso significa que o controle longitudinal completo em todas as configurações de direção angular ainda está sendo desenvolvido.\n*   **Limitações e Recomendações:**\n    *   Se você estiver em um ramo de direção angular não-HDA1"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 296,"totalTokenCount": 21553,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "fd3cac2dd11ba065", "candidates": [{"content": {"parts": [{"text": " , talvez não tenha controle longitudinal completo e possa ver avisos no painel, embora outras funcionalidades devam funcionar.\n    *   NNLC (Controle Longitudinal por Rede Neural) não é atualmente suportado para nenhum carro com direção angular no sunnypilot"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 345,"totalTokenCount": 21602,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "549c58", "candidates": [{"content": {"parts": [{"text": " ou openpilot.\n    *   Para operação ótima e segura, recomenda-se a portação adequada do veículo. Se o seu modelo específico não estiver oficialmente portado, usar um modelo similar pode funcionar, mas é aconselhável fornecer uma rota e"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 394,"totalTokenCount": 21651,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "9cfd63cbefcde6", "candidates": [{"content": {"parts": [{"text": " solicitar a portação adequada por motivos de segurança.\n    *   Se você estiver usando um ramo pré-compilado de direção angular e achar o controle longitudinal um pouco limitado, alguns usuários tiveram sucesso ajustando \"min active torque\" nas configurações de direção"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 442,"totalTokenCount": 21699,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "998628", "candidates": [{"content": {"parts": [{"text": " (por exemplo, para 90% ou 95%).\n\nEm essência, de fato é necessário trabalho especial devido à nova API de controle para carros LFA2, e embora esteja sendo feito progresso em ramos dedicados, ainda é uma"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 493,"totalTokenCount": 21750,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "2f", "candidates": [{"content": {"parts": [{"text": " funcionalidade em evolução com algumas limitações atuais.\n\nVocê pode acompanhar as discussões e atualizações em andamento na categoria #Vehicle-Talk:Hyundai-Kia-Genesis, especialmente no tópico [Suporte para veículos mais novos equipados com Direção Angular (LFA2"}],"role": "model"},"index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 541,"totalTokenCount": 21798,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

data: {"nonce": "15d69a6453c811", "candidates": [{"content": {"parts": [{"text": ")](https://community.sunnypilot.ai/t/support-for-newer-vehicles-equipped-with-angle-steering-lfa2/22)."}],"role": "model"},"finishReason": "STOP","index": 0}],"usageMetadata": {"promptTokenCount": 20565,"candidatesTokenCount": 578,"totalTokenCount": 21835,"promptTokensDetails": [{"modality": "TEXT","tokenCount": 20565}],"thoughtsTokenCount": 692},"modelVersion": "gemini-2.5-flash","responseId": "3q8saZzqKaWOjMcPgPj5oA4"}

Qualquer dica sobre onde procurar e investigar me ajudaria muito. Obrigado!

2

Eu corrigi alguns problemas em torno deste exato problema em:

Especificamente, a reprodução consistente do problema era ter 2 conversas em andamento e alternar entre elas.
Você está… quase… nesse commit, o commit deve ser lançado em meados desta semana.

Apenas confirmando, quando você recarrega a página depois que tudo está feito, você está vendo as coisas aparecerem corretamente?

3

infelizmente não é o caso, é como se a mensagem tivesse sido enviada incompleta e pronto, mesmo que claramente o debug mostre que a resposta foi completa… Então, receio dizer que este pode ser um problema diferente? Começou a acontecer por volta de 25 de novembro, talvez um ou dois dias antes? Outro palpite que tenho é que parece acontecer quando a conversa está recebendo um título, mas posso estar enganado ou pode ser apenas coincidência.

4

Obrigado, desculpe, pensei que você estava hospedado por nós :hugs: Eu ia me oferecer para fazer login e ajudar a investigar.

Você pode dar uma olhada em /logs, há algum erro lá? Parece que você está usando o endpoint de compatibilidade do openai para o gemini, você pode tentar o do gemini para ver se os resultados são diferentes?

5

Nada em particular chama minha atenção nos logs

IMG_0026
IMG_00261320×2868 392 KB

(Desculpe pelas capturas de tela do telefone, estive fora para meu aniversário o dia todo, mas não consigo deixar isso passar hahahah)

Eu não sabia que estava usando isso, mas isso está acontecendo com todos os modelos… até mesmo os do ChatGPT ou o gemini3. Eu uso o AI gateway da Cloudflare. Mas eu também testei sem ele e o mesmo resultado

Editar:

Sobre o endpoint de compatibilidade… não tenho certeza se estou fazendo errado, mas não acho que estou acessando o endpoint de compatibilidade, eu entendo que termina em /openai, mas não é o caso no meu. Estou compartilhando a configuração que tenho caso dê alguma pista.

Além disso, tenho a sensação de que isso também pode ter começado a acontecer quando ativei as cotas, mas não estou sujeito a elas e isso acontece com modelos ou assistentes sem cota. Então, pode ser totalmente coincidência também

IMG_0027
IMG_00271320×2868 254 KB

IMG_0028
IMG_00281320×2868 193 KB

6

esses dados que você linkou não parecem ser dados do provedor google para mim, parecem ser dados do provedor openai, você pode tentar mudar isso e ver o que acontece?

7

Infelizmente, configurá-lo como provedor OpenAI faz com que falhe (não é possível ‘executar teste’), então o provedor google definitivamente permite que passe. Vou remover o gateway de IA da Cloudflare para testar ‘bruto’, mas o que me surpreende é que os dados ainda estão sendo recebidos completamente pelo Discourse, caso contrário, aqueles dados de resposta que postei não poderiam estar visíveis. Estou obtendo isso ao clicar no botão “info” e selecionar copiar resposta.

Edição:

Mudar do gateway de IA da Cloudflare para a API diretamente parece ter bons resultados. Continuarei monitorando e testando.

8

Olá @sam, uma pequena atualização de status: até agora, tudo bem. As consultas que fiz ao bot que costumavam falhar não falharam para mim hoje. Parece que por algum motivo o gateway de IA do Cloudflare estava sendo o culpado, mas não consigo entender por quê… Continuarei verificando e avisarei se eu o vir falhar novamente.

9

Atualização final sobre o assunto:

Depois de remover o AI Gateway dos modelos, posso dizer com confiança que o problema desapareceu. O motivo pelo qual começou a acontecer é algo que não entendo.

Mas, minutos atrás, tive uma automação semanal postando um resumo da semana e ela falhou com o mesmo corte. Percebi que estava usando outro modelo que ainda utilizava o AI Gateway. Removi o gateway e acionei o resumo umas 3 vezes e não houve uma única falha.

Portanto, se a sua IA estiver sendo cortada antes de escrever tudo, e você estiver usando o AI Gateway da Cloudflare, o primeiro passo é consultar a API do modelo diretamente!