Fakultet tehničkih nauka

Predmet: Modeliranje i optimizacija učenjem iz podataka (17.E2515)

Matične organizacione jedinice predmeta: Odsek za automatiku, geomatiku i upravljanje sistemima
Osnovne informacije:
 
Kategorija Naučno-stručni
Uža naučna oblast Automatika i upravljanje sistemima
Multidisciplinarna Ne
ESPB 6
Cilj:

Studenti će ovladati savremenim tehnikama modeliranja i optimizacije učenjem iz podataka. Studenti će ovladati znanjima i veštinama koje su neophodne da se odgovarajući računarski modeli za klasifikaciju, regresiju, izdvajanje obeležja, i sl. obuči na datom skupu podataka. Primenom većeg broja različitih, naprednih optimizacionih algoritama studenti će ovladati tehnikama obuke plitkih i dubokih neuronskih mreža, algoritama vektora podrške (eng. Support Vector Machines) i drugih savremenih računskih modela.

Ishod:

Stečena znanja mogu se koristiti u rešavanju konkretnih inženjerskih problema klasifikacije, regresije, grupisanja (analize klastera), detekcije anomalija, i sl. Student je osposobljen da uspešno implementira i koristi veći broj različitih optimizacionih algoritama i modela koji se široko primenjuju u oblasti veštačke inteligencije i mašinskog učenja: linearna, kvadratna, logistička i nelinearna regresija, parametarske i neparametarske klasifikacije i identifikacije, algoritmi grupisanja. Student je osposobljen da prepozna kada se mogu primeniti efikasni optimizacioni algoritmi lokalnog karaktera, a kada globalni (evolutivni) algoritmi. Savladani su principi rada, tehnike implementacije i oblasti primene genetskog algoritma i algoritma optimizacije rojem čestica.

Sadržaj:

Linearna regresija i klasifikacija. Kvadratna regresija i klasifikacija. Logistička regresija. Nelinearna regresija i klasifikacija. Algoritmi izdvajanje obeležja (analiza osnovnih komponenti). Algoritmi grupisanja podataka (klaster analiza). Stohastički gradijent i druge savremene modifikacije gradijentnih algoritama (kao što su algoritmi sa fiksnim i adaptivnim momentom) sa primenama u obuci neuronskih mreža. Primena veštačkih neuronskih mreža i algoritama vektora podrške u regresiji, klasifikaciji i razvrstavanju podataka. Elementi identifikacije sistema. Konveksni optimizacioni algoritmi (kvadratno programiranje, Njutnovi i kvazi-Njutnovi algoritmi). Lagranževa teorija dualnosti sa primenama u optimizaciji sa ograničenjima. Globalni optimizacioni algoritmi (genetski algoritam i algoritam optimizacije rojem čestica).

Metodologija izvođenja nastave:

Predavanja; Računske i računarske vežbe; Konsultacije. Ispit je pismeni i usmeni. Pismeni deo ispita je eliminatoran. Ocena ispita se formira na osnovu uspeha sa kolokvijuma, domaćeg zadatka i uspeha sa pismenog i usmenog dela ispita. Praktična nastava će se na predmetu obavljati dvojako: na računarskim vežbama i kroz samostalne projekte. U izvođenju praktične nastave koristiće se programski jezik Python, te povezani alati: NumPy, SciPy, scikit-learn. Kroz praktičnu nastavu, studenti će se samostalno rešavati probleme neposredno vezane za teorijske koncepte, postupke i algoritme koji će se obrađivati na teorijskom delu nastave. Konkretno, studenti će samostalno implementirati različite optimizacione algoritme, samostalno će obučavati različite modele (kao što su neuronske mreže i algoritmi vektora podrške), a takođe će i samostalno rešavati probleme učenja iz podataka.

Literatura:
Autori Naziv Godina Izdavač Jezik
R.L.Haupt; S.E.Haupt Practical Genetic Algorithms 2004 Wiley-Interscience Engleski
V.Kecman Learning and Soft Computing 2001 MIT Press Engleski
Željko Kanović, Zoran Jeličić & Milan Rapaić Evolutivni optimizacioni algoritmi u inženjerskoj praksi 2017 FTN Izdavaštvo, Novi Sad Srpski jezik
Mykel J. Kochenderfer & Tim A. Wheeler Algorithms for Optimization 2019 MIT Press Engleski
Formiranje ocene:
Predmetna aktivnost Predispitna Obavezna Broj poena
Predmetni projekat Da Da 50.00
Usmeni deo ispita Ne Da 50.00
Izvođači nastave:
Predavanja
Računarske vežbe
Predavanja

prof. dr Kulić Filip

Redovni profesor

Predavanja