8: Kielimallin hienosäätö
Warning
Voi olla, että tämä viikko poistetaan kurssilta kokonaan. Pitää pohtia, ettei kurssi kasva taas liian isoksi. Jos ei, tämä nojaa vahvasti Fine-Tuning AI-kirjan prerelease versioon. Sitä kirjoittaa Laurence Moroney ja se julkaistaan July 2027.
Toinen hyvä lähde on CSC:n llm-fine-tuning-examples repo.
Ja lisäksi vielä HF:n community article Fine-Tuning Your First Large Language Model (LLM) with PyTorch and Hugging Face, jossa tuunataan Phi-3 Mini 4K puhumaan Yoda-englantia.
Kaiken kukkuraksi me haluaisimme, että tämä loggaa MLflow:iin, eli seuraten MLflow:n dokumentaatiota: Fine-Tuning Open-Source LLM using QLoRA with MLflow and PEFT
Videolla esitettävä
- TODO