Adaptation de la récupération json avec ollama.cpp #3

Open
opened 2026-03-21 16:55:10 +00:00 by Gameur.py · 1 comment
Gameur.py commented 2026-03-21 16:55:10 +00:00 (Migrated from gitlab.com)

🎯 Objectif

Actuellement, la récupération des données via l'API de base n'est pas complétement supporter par ollama. L'objectif de cette tâche est d'intégrer ollama.cpp (ou le mode spécifique d'Ollama) pour forcer la génération de réponses au format JSON localement.

Cela permettra d'assurer une meilleure fiabilité lors du parsing des données par le bot Discord et d'éviter les erreurs de syntaxe générées par le LLM.


🛠️ Tâches à réaliser

  • [ ] Configuration de l'environnement : Vérifier la compatibilité de la version locale d'Ollama avec les schémas JSON.
  • [ ] Mise à jour du Prompt : Adapter les instructions système pour inclure une contrainte de format (si besoins.
  • [ ] Implémentation technique (coder mais non tester)
    • Utiliser l'option format: "json" dans l'appel API.
    • Mettre en place un schéma (si possible) pour garantir la structure des clés.
  • [ ] Gestion d'erreurs : Ajouter un bloc try/except robuste pour gérer les JSON mal formés.
  • [ ] Tests : Valider que le bot interprète correctement les données sans crash.
### 🎯 Objectif Actuellement, la récupération des données via l'API de base n'est pas complétement supporter par ollama. L'objectif de cette tâche est d'intégrer **ollama.cpp** (ou le mode spécifique d'Ollama) pour forcer la génération de réponses au format **JSON localement**. Cela permettra d'assurer une meilleure fiabilité lors du parsing des données par le bot Discord et d'éviter les erreurs de syntaxe générées par le LLM. --- ### 🛠️ Tâches à réaliser * \[ \] **Configuration de l'environnement** : Vérifier la compatibilité de la version locale d'Ollama avec les schémas JSON. * \[ \] **Mise à jour du Prompt** : Adapter les instructions système pour inclure une contrainte de format (si besoins. * \[ \] **Implémentation technique** (coder mais non tester) * Utiliser l'option `format: "json"` dans l'appel API. * Mettre en place un schéma (si possible) pour garantir la structure des clés. * \[ \] **Gestion d'erreurs** : Ajouter un bloc `try/except` robuste pour gérer les JSON mal formés. * \[ \] **Tests** : Valider que le bot interprète correctement les données sans crash.
Gameur.py commented 2026-03-21 16:55:10 +00:00 (Migrated from gitlab.com)

assigned to @lowei3651

assigned to @lowei3651
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference: Gameur/Beta#3
No description provided.