Fakultet tehničkih nauka

Predmet: Mašinsko učenje (17.SES203)

Matične organizacione jedinice predmeta: Odsek za primenjene računarske nauke i informatiku
Osnovne informacije:
 
Kategorija Naučno-stručni
Uža naučna oblast Primenjene računarske nauke i informatika
Multidisciplinarna Ne
ESPB 6
Cilj:

Ovladavanje osnovnim konceptima, elementima i tehnikama iz domena mašinskog učenja. Osposobljavanje studenta da razume osnovne modele mašinskog učenja, kao i teorije koja stoji iza njih. Osposobljavanje studenta da za realan problem mašinskog učenja prepozna tip problema i praktično primeni adekvatne algoritme.

Ishod:

Nakon uspešno završenog kursa, student zna: da definiše i razlikuje osnovne probleme u mašinskom učenju (regresiju, klasifikaciju, klasterovanje i redukciju dimenzionalnosti); koji algoritmi i modeli su adekvatni za rešavanje svakog od osnovnih problema; teoriju iza modela mašinskog učenja; praktične implikacije neophodne za implementaciju datih modela; da dizajnira validan eksperiment kojim može da uporedi performanse različitih modela; da primeni stečeno znanje na realne probleme.

Sadržaj:

(1) Nadgledano obučavanje: Linearna regresija (jednostruka i višestruka regresija, metod gradijentnog spusta i njegove varijante, analitičko rešenje u zatvorenoj formi, uticaj outlier-a); Neparametarski pristup (metod k najbližih suseda i krernel regresija); Metod maksimalne verodostojnosti; Klasifikacija (logistička regresija, perceptron, naivni Bajes, metod potpornih vektora, ansambli klasifikatora). (2) Pravilan dizajn eksperimenata i selekcija optimalnog modela: adekvatne mere performanse za različite probleme; eksperimentalni postupci (unakrsna validacija, podela na trening/validacioni/test skup, adekvatna selekcija i optimizacija modela); preprilagođavanje i regularizacija (grebena regresija, laso regresija, elastična mreža i njihovo poređenje). (3) Polu-nadgledano obučavanje (pregled osnovnih koncepata i algoritama). (4) Nenadgledano obučavanje: klasterovanje (algoritam k-sredina i model Gausovih mešavina); redukcija dimenzionalnosti (analiza glavnih komponenti). (5) Praktični saveti za primenu algoritama mašinskog učenja. (6) Teorija učenja: Hoeffdingova nejednakost; Vapnik-Červonenkinsova dimenzija; Nagodba aproksimacije i generalizacije.

Metodologija izvođenja nastave:

Studenti na predavanjima uče koncepte i teorijske osnove algoritama mašinskog učenja. Na računarskim vežbama se za svaki od naučenih koncepata studentima zadaje realan problem i diskutuju se moguća rešenja. Nakon toga, studenti samostalno rešavaju zadati problem, trudeći se da primenom naučenih tehnika ostvare maksimalne performanse na zadatom problemu, čime ostvaruju deo bodova za praktični deo ispita. Ostatak bodova sa praktičnog dela studenti ostvaruju putem predmetnog projekta. Za predmetni projekat studenti samostalno predlažu realan problem iz oblasti mašinskog učenja koji žele da rešavaju i metodologiju kojom planiraju da ga reše. Završni (teorijski) deo ispita studenti polažu usmeno.

Literatura:
Autori Naziv Godina Izdavač Jezik
Hastie, T., Tibshirani, R., Friedman, J. The Elements of Statistical Learning : Data Mining, Inference, and Prediction 2017 Springer, New York Engleski
S. Shalev-Schwartz, S. Ben-David Understanding Machine Learning: From Theory to Algorithms 2014 U elektronskom izdanju: https://www.cs.huji.ac.il/~shais/UnderstandingMachineLearning/understanding-machine-learning-theory-algorithms.pdf Engleski
Awad, M., Khanna, R. Efficient Learning Machines 2015 Apress Media Engleski
Goodfellow, I., Bengio, Y., Courville, A. Deep Learning 2017 MIT Press, Cambridge Srpski jezik
Ian Witten, Eibe Frank, Mark Hall, Christopher Pal Data Mining, 4th Edition 2017 Morgan Kaufmann Engleski
BISHOP, Christopher M. Pattern Recognition and Machine Learning 2006 Springer, New York Engleski
Formiranje ocene:
Predmetna aktivnost Predispitna Obavezna Broj poena
Predmetni projekat Da Da 25.00
Složeni oblici vežbi Da Da 35.00
Usmeni deo ispita Ne Da 40.00
Izvođači nastave:
Računarske vežbe
Predavanja
Predavanja
Računarske vežbe