Entraîner et évaluer un assistant qui tourne hors ligne
Fine-tuning local
Alban Pasquelin a construit un harnais de préparation et d'évaluation pour spécialiser un modèle Qwen multilingue destiné à piloter AI Desktop Studio, exécuté localement sur Apple Silicon dans des machines virtuelles Tart.
import { Qwen, AppleSilicon, Tart, Nodejs } from '@/stack'
export function specialiseModel(base: Qwen): LocalAssistant {
Un modèle généraliste ne sait pas piloter une application précise. Celui-ci est spécialisé pour comprendre les 310 actions d'AI Desktop Studio, dans plusieurs langues.
const model = qwen.specialise({ actions: 310, languages: 'multi' })
Tout se passe sur la machine : préparation des données, entraînement, puis évaluation automatisée qui mesure si la nouvelle version fait réellement mieux que l'ancienne. Sans cette mesure, on ne fait pas du fine-tuning, on fait de la superstition.
if (evaluate(candidate) <= evaluate(shipped)) reject(candidate)
return {
runLocally: 100%, /** exécution locale **/
}
}