Tankönyvek:

- Bishop: Pattern recognition and machine learning (Bishop),

- Goodfellow-Bengio-Courville: Deep Learning (DL),

- Boyd-Vandenberghe: Convex optimization (CO).

- Altrichter-Horváth-Pataki-Strausz-Takács-Valyon: Neurális hálózatok (NH).

2019. szeptember 11. Bayesi valószínűségelméleti alapfogalmak. Valószínűség, prior, likelihood, posterior. Maximum likelihood (ML), maximum a posteriori (MAP), teljesen bayesi következtetés, modellátlagolás. Konjugált priorok.

Irodalom: Bishop 1. fejezet, de erről csinálok külön jegyzetet

Demo: érme, Newton-Raphson + fraktál, Newton-Raphson középiskolás anyag

2019. szeptember 18. Lineáris regresszió. ML, MAP, a posterior kiszámítása teljes négyzetté kiegészítéssel. Bayesi lineáris regresszió. Bázisfüggvényes kiterjesztések.

Irodalom: Bishop 3. fejezet (ami órán elhangzott).

2019. szeptember 25. Lineáris klasszifikáció, logisztikus regresszió, a perceptron valószínűségelméleti származtatása. ML, MAP (Laplace-approximáció).

Irodalom: Bishop 4. fejezet (ami órán elhangzott).

2019. október 2. Neurális hálózatok, tanítás a backpropagation algoritmussal. A kiértékelés módszerei. Underfitting, overfitting, a bias-variancia dilemma. Áttekintés: generatív és diszkriminatív modellek a gépi tanulásban.

Irodalom: Bishop 1. és 5. fejezetek (ami órán elhangzott).

2019. október 9. Mély neurális hálózatok. Aktivációs függvények, veszteségfüggvények és regularizáció mély neurális hálózatokban, ezek valószínűségelméleti alapjai.

Irodalom: Irodalom: DL 6-7. fejezet (ami órán elhangzott).

2019. október 16. Optimalizációs eljárások mély neurális hálózatokban. Konvolúciós és visszacsatolt hálók.

Irodalom: Irodalom: DL 8-10. fejezet (ami órán elhangzott).

2019. október 30. ZH

2019. november 7. Variációs bayesi közelítés, BBVI, VAE, adversarial modellek.

Irodalom: Bishop 10. fejezet eleje (ami órán elhangzott).

BBVI: https://arxiv.org/abs/1401.0118

VAE: https://arxiv.org/abs/1312.6114

GAN: https://arxiv.org/abs/1406.2661

2019. november 13. Szupportvektor-gépek, Lagrange-dualitás.

Irodalom: Bishop 7. fejezet, CO 5. fejezet (ami órán elhangzott).

2019. november 20. Dimenzió-redukció, PCA, kernel PCA.

Irodalom: Bishop 12. fejezet, NH 10. fejezet (ami órán elhangzott).

2019. november 27. Gauss keverék-eloszlások, EM algoritmus, alkalmazása a klaszterezésben.

Irodalom: Bishop 9. fejezet (ami órán elhangzott).

2019. december 4. MCMC módszerek, Metropolis, Metropolis--Hastings, Gibbs sampling. Teljes bayesi következtetés lineáris regresszióra MCMC-vel.

Irodalom: Bishop 11. fejezet (ami órán elhangzott) + gyak. anyag.

2019. december 11. K-karú rabló probléma, Thompson-mintavétel, UCB1 algoritmus. MCTS, AlphaZero.

Irodalom: 

UCB: https://homes.di.unimi.it/~cesabian/Pubblicazioni/ml-02.pdf

UCT, MCTS: http://ggp.stanford.edu/readings/uct.pdf

AlphaZero: https://www.nature.com/articles/nature24270