Ideatasolla

Tämän osion rakenne vaatii miettimistä. Tulee selittää ainakin:

• Essential Math for AI kirjasta luvun 3 alusta struktuuri.
• Mallinnuksen periaatteet (luvun 4 alku)
  • Training function
    • Linearly combine, add bias, then activate
    • Activation functions
    • Vanishing gradient problem
  • The loss function
  • Optimization
• Kouluttamisen käytännöt:
  • Datan määrä (Machine Learning Yearning sivu 11)
  • Train/validation/test split
  • Over ja underfitting
  • Regularisointi (dropout, weight decay)
  • Error analysis (Machine Learning Yearning sivu 32)
  • Tuotanto (saving and loading models, versioning)
  • Mallin keventäminen (kvantisointi, pruning)
• Yksittäinen kokonaisuus alusta loppuun (esim. Fashion-MNIST)