ChrysalisInnovationSLM Factory
SLM Factory organise la spécialisation de modèles de langage à partir d’exemples métier. De la préparation des données à la comparaison des candidats, elle permet d’examiner ce que chaque choix apporte à la tâche visée.
Transmettre un savoir-faire. Des exemples associent une entrée à la réponse attendue pour une tâche métier.
Faire apprendre la spécialité. L’entraînement adapte un modèle de départ à ces exemples.
Éprouver ce qui a été appris. Des exemples distincts servent à guider les réglages, puis un test indépendant permet de juger le résultat final.
Des exemples réels ou générés. Un calcul local ou sur GPU serverless. Un modèle ciblé ou une campagne de comparaison. La Factory organise ces choix dans un même parcours.
Pour garder un test final indépendant, les retours qui guident la boucle d’amélioration doivent venir du jeu de validation. Le « même jeu de test » de l’infographie permet une comparaison finale à cas identiques, une fois les réglages arrêtés. Si ses résultats servent à relancer les réglages, il faut réserver un nouveau jeu indépendant pour le test final.
Pourquoi répartir les exemples en trois jeux ? Pour distinguer ce que le modèle apprend, ce qui guide les choix et ce qui permet de juger le résultat.
Le modèle voit les entrées et les réponses attendues. L’entraînement modifie ses paramètres pour apprendre à reproduire ce savoir-faire.
Exemple : lire les champs d’une facture. Apprendre à retrouver une date, un montant et une référence à partir de factures annotées.
Faire évoluer le modèleDes exemples distincts permettent de suivre la progression et de guider les réglages, sans servir directement à modifier les paramètres par apprentissage.
Sur d’autres factures. Vérifier si prolonger l’entraînement améliore encore l’extraction ou si le modèle commence à trop s’adapter aux exemples appris.
Choisir comment l’entraînerDes exemples gardés à l’écart de l’apprentissage et des choix de réglage servent à mesurer le résultat final. Ils donnent une estimation sur des cas nouveaux.
Sur des factures réservées. Mesurer la justesse des champs extraits, le respect du format et les erreurs qui subsistent.
Juger la configuration retenueC’est l’opération qui consiste à confronter les réponses du modèle aux réponses attendues. On évalue sur la validation pour guider les essais, puis sur le test pour établir le bilan final. La séparation doit être préservée tout au long des essais pour que le bilan reste fiable.
La spécialisation pose deux questions indépendantes : quelles configurations comparer, et où les entraîner ?
Partir d’un modèle identifié, faire varier ses réglages ou comparer plusieurs familles et tailles. Les candidats sont examinés sur des cas et des critères communs, avec le modèle de départ comme point de comparaison.
La qualité des réponses, la latence et le coût éclairent le choix selon les mesures disponibles. La configuration retenue doit encore passer les contrôles de livraison.
En local ou sur site, selon le matériel et le modèle. Sur GPU serverless lorsque la politique du projet autorise l’usage du cloud pour les données concernées.
Certaines études peuvent répartir les entraînements en parallèle, dans une limite définie. Le mode de calcul et les ressources disponibles déterminent cette possibilité.
La bonne question : quelle sortie doit être fiable, et comment le vérifier ? Voici trois exemples de spécialisation.
Transformer un document en champs structurés : dates, montants, références.
À évaluerLa justesse des valeurs, le format et le traitement des informations absentes.
Affecter une clause à une catégorie juridique définie. Un cas d’école du projet utilise le corpus public LEDGAR.
À évaluerLes catégories bien reconnues et celles que le modèle confond encore.
Détecter les informations à masquer dans une chaîne d’anonymisation documentaire.
À évaluerLes données oubliées et les éléments signalés à tort, avant application des règles de remplacement.
Des exemples existants peuvent être importés ; des exemples adaptés à la tâche peuvent aussi être générés. Dans les deux cas, leur pertinence et leur qualité doivent être contrôlées. Des documents bruts demandent une préparation : ils ne constituent pas automatiquement un jeu prêt à entraîner.
Parce qu’une bonne réponse sur un exemple déjà appris ne suffit pas à montrer que le modèle saura traiter un cas nouveau. Il faut réserver des exemples pour guider les choix, puis pour mesurer le résultat. Des doublons ou des variantes trop proches répartis entre les jeux peuvent fausser cette mesure.
Non. Il faut examiner les réponses, les erreurs et les contraintes d’exécution au regard des critères définis. Une campagne explore les possibilités ; la livraison est une décision distincte, avec ses contrôles.
Une spécialisation à explorer ?