Fakultet tehničkih nauka

Predmet: Distribuirana optimizacija nad velikim podacima i mehanizmi očuvanja privatnosti (17.DE424)

Matične organizacione jedinice predmeta:
Osnovne informacije:
 
Kategorija Naučno-stručni
Uža naučna oblast Telekomunikacije i obrada signala
Multidisciplinarna Ne
ESPB 10
Cilj:

Cilj predmeta je da se studenti upoznaju sa osnovnim principima distribuirane optimizacije, savremenim algoritmima iz ove oblasti i njihovim primenama, i mehanizmima za očuvanje privatnosti podataka prilikom mašinskog učenja nad podacima. Kroz rad na predmetnom projektu studenti će imati priliku da prošire znanja u ciljanoj oblasti distribuirane optimizacije od značaja za oblast doktorske teze studenta.

Ishod:

Po uspešno završenom kursu, student će umeti da primeni obrađivane algoritme na zadatim optimizacionim problemima, odnosno problemima mašinskog učenja i time ih reši na distribuiran način, i uz poštovanje privatnosti podataka nad kojima se vrši obrada.

Sadržaj:

- osnovni principi distribuirane optimizacije - gradijentni i subgradijentni metod - optimalni metodi prvog reda - dualna dekompozicija, alternating direction method of multipliers (ADMM) - metodi drugog reda: Njutnov i aproksimativni Njutnov - stohastička optimizacija, stohastička aproksimacija - metode odabiranja - metode čuvanja privatnosti: lokalna i diferencijalna privatnost

Metodologija izvođenja nastave:

Student će u dogovoru sa predmetnim nastavnikom odabrati temu za izradu predmetnog projekta, u skladu sa interesovanjima studenta, odnosno temom doktorske teze.

Literatura:
Autori Naziv Godina Izdavač Jezik
S. Boyd, N. Parikh, E. Chu, B. Peleato, and J. Eckstein Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers 2011 Foundations and Trends in Machine Learning, 3(1):1–122 Engleski
Dimitri P. Bertsekas, John N. Tsitsikli<\eng> Parallel and Distributed Computation: Numerical Methods<\eng> 1989 Prentice Hall<\eng> Engleski
Dimitri P. Bertsekas Nonlinear Programming 2016 Athena Scientific; 3rd edition Engleski
Angelia Nedic, Asu Ozdaglar<\eng> Cooperative Distributed Multi-Agent Optimization<\eng>, poglavlje u knjizi Convex Optimization in Signal Processing and Communications, Y. Eldar, D. Palomar (Eds.)<\eng> 2010 Cambridge University Press<\eng> Engleski
Formiranje ocene:
Predmetna aktivnost Predispitna Obavezna Broj poena
Predmetni projekat Da Da 50.00
Pismeni deo ispita - kombinovani zadaci i teorija Ne Da 50.00
Izvođači nastave:
Predavanja