Fakultet tehničkih nauka

Predmet: Metode i tehnike dubokog učenja (22.EAI048)

Matične organizacione jedinice predmeta:
Osnovne informacije:
 
Kategorija Stručno-aplikativni
Uža naučna oblast Informaciono-komunikacioni sistemi
Multidisciplinarna Ne
ESPB 6
Cilj:

Cilj predmeta je upoznavanje studenata sa metodama i tehnikama korišćenja dubokih neuronskih mreža – sistema čija je arhitektura bazirana na arhitekturi ljudskog centralnog nervnog sistema. Studenti će razumeti osnovne koncepte neuronskih mreža i ovladati primenom alata za razvoj sistema veštačke inteligencije baziranih na konceptu dubokog učenja (Deep Learning). Kurs je koncipiran tako da vodi studente kroz par odabranih praktičnih radionica NVIDIA instituta za duboko učenjeDeep Learning Institute (DLI), te će studentima obezbediti praktično iskustvo u razvoju i primeni sistema dubokog učenja na savremenim GPU platformama i serverima u oblaku.

Ishod:

Studenti će po završetku kursa imati znanja i veštine koje će im omogućiti da koriste tehnike dubokog učenja za rešavanje praktičnih problema iz domena informacionih tehnologija. Pored toga steći će praktične veštine razvoja programskih rešenja korišćenjem Caffe, TensorFlow i PyTorch okruženja za modelovanje i treniranje dubokih neuronskih mreža. Kroz praktičan trening baziran na NVIDIA DLI radionicama studenti će razviti i primeniti praktične sisteme dubokog učenja na serverima u oblaku i imati priliku da steknu do 2 NVIDIA DLI sertifikata.

Sadržaj:

Predmet će pokriti sledeće oblasti: osnovne koncepte neuroonskih mreža 1. i 2. generacije, metode reprezentacije (kodovanja) različitih tipova podataka u sistemima dubokog učenja, osnovne metode nadlgledanog i nenadgledanog učenja u ovakvim sistemima, metode učenja u sistemima sa dubokom arhitekturom (Deep Learning<-eng>) i primene ovih sistema za analizu velikih količina multimedijalnih podataka. Teorijsku nastavu će pratiti praktična obuka iz implementacije programskih rešenja (modela neuronskih mreža) u okruženjima Caffe, TensorFlow i PyTorch i na platformama za masivnu paralelnu obradu podataka u oblaku. Studenti će u okviru predmeta proći kroz radionice NVIDIA DLI koje se bave fundamentima dubokog učenja i razvojem aplikacija za obradu prirodnog govora na bazi arhitektura transformatora.

Metodologija izvođenja nastave:

Predavanja i laboratorijske vežbe, testovi i individualni zadatak (projekat). U okviru vežbi će studenti biti osposobljeni za implementaciju programskih rešenja u programskom okruženju Caffe, TensorFlow i PyTorch, kroz odgovarajuće radionice NVIDIA DLI. Usvajanje teoretskih znanja sa predavanja će se proveravati testovima i na usmenom ispitu, a individualni zadatak će uključivati praktičnu implementaciju sistema mašinskog učenja baziranih na dubokom učenju, odgovarajuće složenosti u saradnji sa kompanijama koje primenjuju duboko učenje i u okviru prakse na koju će primiti studente u koordinaciji sa predavačem kursa. Predispitne obaveze činiće uspešno završen i odbranjen samostalni predmetni projekat, kao i skupljen adekvatan broj bodova sa vežbi - uslov za izlazak na ispit je 25 od 50 bodova.

Literatura:
Autori Naziv Godina Izdavač Jezik
Ćulibrk D. Otkrivanje znanja iz podataka: odabrana poglavlja 2012 CreateSpace Srpski jezik
Raul Rojas Neural Networks 1996 Springer-Verlag Engleski
Goodfellow, I., Bengio, Y., Courville, A. Deep Learning 2017 MIT Press Engleski
Formiranje ocene:
Predmetna aktivnost Predispitna Obavezna Broj poena
Složeni oblici vežbi Da Da 20.00
Test Da Da 20.00
Usmeni deo ispita Ne Da 30.00
Projektni zadatak Da Da 30.00
Izvođači nastave:
Predavanja
Računarske vežbe