Fakultet tehničkih nauka

Predmet: Modeliranje i optimizacija učenjem iz podataka (17.E2515)

Matične organizacione jedinice predmeta: Odsek za automatiku, geomatiku i upravljanje sistemima
Osnovne informacije:
 
Kategorija Naučno-stručni
Uža naučna oblast Automatika i upravljanje sistemima
ESPB 6

Studenti će ovladati savremenim tehnikama modeliranja i optimizacije učenjem iz podataka. Studenti će ovladati znanjima i veštinama koje su neophodne da se odgovarajući računarski modeli za klasifikaciju, regresiju, izdvajanje obeležja, i sl. obuči na datom skupu podataka. Primenom većeg broja različitih, naprednih optimizacionih algoritama studenti će ovladati tehnikama obuke plitkih i dubokih neuronskih mreža, algoritama vektora podrške (eng. Support Vector Machines) i drugih savremenih računskih modela.

Stečena znanja mogu se koristiti u rešavanju konkretnih inženjerskih problema klasifikacije, regresije, grupisanja (analize klastera), detekcije anomalija, i sl. Student je osposobljen da uspešno implementira i koristi veći broj različitih optimizacionih algoritama i modela koji se široko primenjuju u oblasti veštačke inteligencije i mašinskog učenja: linearna, kvadratna, logistička i nelinearna regresija, parametarske i neparametarske klasifikacije i identifikacije, algoritmi grupisanja. Student je osposobljen da prepozna kada se mogu primeniti efikasni optimizacioni algoritmi lokalnog karaktera, a kada globalni (evolutivni) algoritmi. Savladani su principi rada, tehnike implementacije i oblasti primene genetskog algoritma i algoritma optimizacije rojem čestica.

Linearna regresija i klasifikacija. Kvadratna regresija i klasifikacija. Logistička regresija. Nelinearna regresija i klasifikacija. Algoritmi izdvajanje obeležja (analiza osnovnih komponenti). Algoritmi grupisanja podataka (klaster analiza). Stohastički gradijent i druge savremene modifikacije gradijentnih algoritama (kao što su algoritmi sa fiksnim i adaptivnim momentom) sa primenama u obuci neuronskih mreža. Primena veštačkih neuronskih mreža i algoritama vektora podrške u regresiji, klasifikaciji i razvrstavanju podataka. Elementi identifikacije sistema. Konveksni optimizacioni algoritmi (kvadratno programiranje, Njutnovi i kvazi-Njutnovi algoritmi). Lagranževa teorija dualnosti sa primenama u optimizaciji sa ograničenjima. Globalni optimizacioni algoritmi (genetski algoritam i algoritam optimizacije rojem čestica).

Predavanja; Računske i računarske vežbe; Konsultacije. Ispit je pismeni i usmeni. Pismeni deo ispita je eliminatoran. Ocena ispita se formira na osnovu uspeha sa kolokvijuma, domaćeg zadatka i uspeha sa pismenog i usmenog dela ispita. Praktična nastava će se na predmetu obavljati dvojako: na računarskim vežbama i kroz samostalne projekte. U izvođenju praktične nastave koristiće se programski jezik Python, te povezani alati: NumPy, SciPy, scikit-learn. Kroz praktičnu nastavu, studenti će se samostalno rešavati probleme neposredno vezane za teorijske koncepte, postupke i algoritme koji će se obrađivati na teorijskom delu nastave. Konkretno, studenti će samostalno implementirati različite optimizacione algoritme, samostalno će obučavati različite modele (kao što su neuronske mreže i algoritmi vektora podrške), a takođe će i samostalno rešavati probleme učenja iz podataka.

Autori Naziv Godina Izdavač Jezik
Željko Kanović, Zoran Jeličić & Milan Rapaić Evolutivni optimizacioni algoritmi u inženjerskoj praksi 2017 FTN Izdavaštvo, Novi Sad Srpski jezik
R.L.Haupt; S.E.Haupt Practical Genetic Algorithms 2004 Wiley-Interscience Engleski
V.Kecman Learning and Soft Computing 2001 MIT Press Engleski
Mykel J. Kochenderfer & Tim A. Wheeler Algorithms for Optimization 2019 MIT Press Engleski
Predmetna aktivnost Predispitna Obavezna Broj poena
Predmetna aktivnost
Predmetni projekat
Predispitna
Da
Obavezna
Da
Broj poena
50.00
Predmetna aktivnost
Usmeni deo ispita
Predispitna
Ne
Obavezna
Da
Broj poena
50.00

prof. dr Kulić Filip

Redovni profesor

Predavanja
Predavanja
Predavanja
Računarske vežbe
Računarske vežbe