Fix/max tokens - #9
Merged
Merged
Conversation
OpenRouter valida el saldo contra el MAXIMO POSIBLE de salida, no contra lo que la respuesta va a costar: pedir max_tokens 8192 tumbaba con un 402 una peticion que habria gastado 200. Con saldo bajo pega constantemente y Multi parecia roto cuando la falla era un numero. Un 402 ahora son dos cosas distintas, separadas por el mensaje del propio proveedor: - "can only afford N" -> SI hay dinero, el techo era muy alto. Se reintenta de inmediato con el 90% de N. Sin backoff, porque esperar no hace crecer un saldo. - Sin ese dato -> la cuenta esta vacia de verdad. Falla ahi mismo, en un solo intento, y lo dice. Hay un piso de 512: por debajo de eso el modelo se corta a media llamada de herramienta y devuelve un JSON truncado, que se lee como bug del agente cuando es falta de dinero. Si ni recortando cabe, falla claro. El mensaje al usuario va ANTES del generico de creditos en explicarFalla. Los dos hablan de saldo, y en el orden contrario a alguien que si tiene dinero se le decia que recargara. demo:presupuesto (16/16) lo cubre con un servidor falso que cobra por adelantado como OpenRouter. Sin red ni API key. Nota: OpenCode no resuelve esto. Su maxOutputTokens es un min estatico entre el limite del modelo y un tope fijo (provider/transform.ts), calculado sobre la capacidad del modelo y nunca sobre el saldo. No hay nada suyo que copiar aqui.
Los guiones largos se leen como muletilla cuando aparecen en cada parrafo. Donde eran dos ideas va punto, donde explicaban va dos puntos, donde eran un inciso va coma. 43 en total: 21 en ROADMAP, 19 en E2E, 3 en CONTRIBUTING. Aparte, E2E.md estaba roto desde antes en el repo publico: la primera linea era un "markdown" suelto y los diagramas ASCII habian perdido sus cercos de bloque, asi que GitHub los renderizaba como parrafos con el espaciado colapsado. Se devuelven los cercos y se quita esa linea. Queda pendiente redibujar los diagramas: el sangrado que centraba el texto dentro de las cajas tambien se perdio, y eso no se reconstruye automaticamente. El ROADMAP marca como hecho el ajuste de max_tokens, con el limite que tiene y por que OpenCode no servia de referencia.
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
2 participants
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
No description provided.