Des chercheurs du KAIST, en Corée du Sud, ont présenté CluSTER, une méthode qui réduit jusqu’à 69,6 % le temps de fine-tuning des modèles de langage, avec une perte de précision presque nulle dans les tests rapportés. Le travail a été présenté à la Conference on Empirical Methods in Natural Language Processing (EMNLP) et est disponible en prépublication sur arXiv.
Le fine-tuning adapte un modèle général à un domaine précis à l’aide d’exemples du domaine — par exemple, des programmes et des explications pour le code, ou des questions médicales pour la recherche d’information. Le problème, selon les auteurs, est que les grands ensembles de données sont souvent redondants et déséquilibrés : plusieurs GPU peuvent travailler sur des exemples qui enseignent pratiquement la même chose.
CluSTER regroupe les exemples dans l’espace des gradients, c’est-à-dire selon leur effet attendu sur l’apprentissage, et non seulement selon le sujet. Deux exemples aux mots et aux situations différents peuvent exercer la même compétence ; la méthode choisit un mélange représentatif de ces groupes et répartit le travail entre les GPU, tout en préservant la distribution d’origine grâce à une mise à jour pondérée.
Dans les tests, avec des modèles d’environ 7 milliards et 13 milliards de paramètres, trois ensembles de données issus du code et de la médecine et huit benchmarks, les modèles ont conservé presque les mêmes performances en utilisant environ 31 % des données d’entraînement. La plupart des expériences utilisaient quatre GPU, avec un test également mené sur huit GPU. Pour l’économie la plus importante rapportée, une exécution de dix heures tomberait à environ trois heures — un exemple qui illustre le pourcentage, et non un temps fixe pour chaque modèle.
Il existe des limites claires : un benchmark mesure des tâches précises et ne couvre pas tout ce qu’un modèle peut rencontrer, et le résultat ne prouve pas que la même fraction de données fonctionne pour tous les domaines, ni qu’un modèle est prêt pour un usage médical au seul motif qu’il a bien réussi ces tests. La leçon pratique est différente : outre une plus grande puissance de calcul, choisir des exemples qui apportent des contributions distinctes accélère aussi l’entraînement.
Crédit image : KAIST, via Knowridge.
Fontes
- KAIST via Knowridge: Smarter data selection could cut AI fine-tuning time by two-thirds
- arXiv: Clustering-Based Balanced Sampling and Allocation with Data Parallelism for High-Performance Fine-Tuning
Transparence : cet article a été produit avec l’aide de l’intelligence artificielle, à partir de sources publiques et officielles, les faits ayant été vérifiés dans les sources originales indiquées ci-dessus. Consultez les sources originales pour les détails techniques complets.
Muse
