pierre/dotfiles
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

fix(ai): plafonne qwen3.8-flash-next en 32k out

Browse Source 
Le models.json déclarait 64k puis 128k en maxTokens pour
qwen3.8-flash-next, alors que la passerelle LiteLLM plafonne à
32 768 (max_output_tokens sur /v1/model/info, vérifié 28/09/2026).
Risque d'erreur 400 en fin de réponse longue.

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
Pierre Martin
2026-10-30 08:16:58 +01:00
co-authored by Claude Opus 5
parent 9844b706cd
commit 6c0f4c8882
1 changed files with 4 additions and 1 deletions
Download Patch File Download Diff File Expand all files Collapse all files
programs/pi.nix
+4 -1
View File
@@ -68,8 +68,11 @@ let
# Repli serveur de LM-Code, mais 262k de contexte : pas un vrai # Repli serveur de LM-Code, mais 262k de contexte : pas un vrai
# fallback. Recommandé par LM pour les tâches simples, de manière # fallback. Recommandé par LM pour les tâches simples, de manière
# proactive, afin d'alléger GLM 5.3 (07/09/2026). # proactive, afin d'alléger GLM 5.3 (07/09/2026).
# 32 768 : plafond réel de la passerelle (max_output_tokens sur
# /v1/model/info, vérifié 28/09/2026). Les valeurs antérieures
# étaient fausses et risquaient une erreur 400 en fin de réponse.
contextWindow = 262144; contextWindow = 262144;
maxTokens = 128000; maxTokens = 32768;
} }
{ {
id = "glm-ocr"; id = "glm-ocr";