Странице предмета

Понављање и увођење основа из теорије вероватноће потребних за курс. Дискретне и континуалне случајне промењиве, очекивање, моменти, условне расподеле. Основне дефиниције из теорије графова потребне за терминлогију и дефинисање пробабилистичких графичких модела. Основни пробабилистички графички модели: Belief Networks. Условне расподеле, условна независност, установљавање независности случајних промењивих на основу графичких модела, концепт сепарације у графичким моделима и веза са условном независношћу. Увод у основне графичке моделе поред Belief Networks, као што су Марковљеве мреже и Марковљева случајна поља или Марковљеви ланци као специјални случајеви, Фактор графови. Увод у алгоритме пробабилистичког закључивања. Закњучивање на основу маргиналних расподела случајних промењивих. Алгоритми за ефикасно израчунавање маргиналних расподела (алгоритми маргинализације), класа алгоритама са разменама порука (message passing), Sum-Product алгоритам. Алгоритми за ефикасно израчунавање мода здружене расподеле система случајних промењивих, Max-Product алгоритам. Учење у пробабилистичким графичким моделима, учење структуре грагичког модела и учење условних расподела унутар графичког модела из података. Naive Bayes, Maximum Likelihood учење. Учење модела који садржи скривене промењеиве. Expectation-Maximization алгоритам. Варијациони Belief-Propagation алгоритми, Генерализовани Belief-Propagation алгоритам, примене у статистичкој физици, обради сигнала, везе Belief-Propagation алгоритама и компресованог одабирања, везе Belief-Propagation алгоритама и дубоког учења, и друге напредне теме. Садржајна структура практичне наставе ће пратити структуру теоријске наставе, фокусирајући се на програмску имплементацију алгоритама за конструкцију пробабилистичких графичких модела и пробабилистичко закључивање употребом Белиеф-Пропагатион алгоритама. Развој алгоритама од основних елемената до напредне имплементације биће реализован у одговарајућим програмским окружењима (по избору студента при реализацији предметног пројекта).