×
Универзитет у Новом Саду

Предмет: Примена вештачке интелигенције у безбедности и приватности података (22.EAI053)

Основне информације:
 
Категорија Теоријско-методолошки
Ужа научна област Примењене рачунарске науке и информатика
ЕСПБ 6

Оспособљавање студената за практичну примену техника, метода и алата из области вештачке интелигенције у циљу очувања безбедности и приватности података. Оспособљавање студената за праћење најновијих истраживачких резултата и самосталан стручни и научно-истраживачки рад у овом домену.

Студенти су стекли доменско знање о информационој безбедности и приватности података и упознати су са проблемима који постоје у овој области и начинима да се они адресирају применом вештачке интелигенције. Студенти су упознати са различитим приступима анализе безбедносних података: класични модели машинског учења, дубоко учење, анализа природног језика и системи базирани на правилима. Студенти разумеју различите безбедносне претње које настају као последица примене вештачке интелигенције у реалним системима. Коначно, студенти су способни да самостално прате трендове у овој области.“

(1) Упознавање са основама информационе безбедности и приватности: дефиниција, основни појмови, прикупљање безбедносних захтева, контроле, моделовање претњи и анализа ризика. (2) Приступи аутоматске детекције злоупотреба и аномалија: системи базирани на правилима, модели машинског учења и модели засновани на дубоком учењу. Приступи засновани на надгледаном и ненадгледаном учењу. (3) Примена вештачке интелигенције у безбедности рачунарских мрежа: надгледање мреже, детекција злоупотреба (intrusion detection) и профилирање мреже. Детекција malware-а и botnet мрежа. (4) Примена вештачке интелигенције за приоритизацију рањивости (vunerability prioritization) (5) Примена вештачке интелигенције у заштити осетљивих података и биометријској аутентификацији. Решавање проблема приватности великих количина података. Верификација приватности. Анонимизација и псеудонимизација података. (6) Примена вештачке интелигенције у детекцији spam порука. (7) Напади на моделе машинског учења (adversarial machine learning). (8) Заштита интелектуалне својине модела машинског учења. (9) Студије случаја. Рачунарске и лабораторијске вежбе које прате овај курс су осмишљене на такав начин да кроз практичан рад са постојећим софтверским алатима за тренинг стандардних предиктивних модела машинког и дубоког учења (Scikit-Learn, Keras/TensorFlow ), практично примене теоријске концепте који ће бити обрађивани на предавањима. Неизоставни део предмета је самостални студентски пројекат, где је идеја да студент самостално одабере проблем из области информационе безбедности и приватности података. Студент потом темељно истражује литературу на тему како се овај проблем може решити применом техника истраживања података и машинског учења, како би утврдио предности и недостатке до тада предложених решења и на основу тога, кроз консултације са предавачима, конципирао предлог пројекта. По завршетку пројекта, студент презентује своје истраживање у оквиру извештаја.

Предавања се изводе уз пратеће презентације. Праћена су рачунарским вежбама које ће се ослањати на програмски језик Python и друга одговарајућа програмска окружења. Активно учење кроз пројекат и истраживање релевантних научних публикација уз редовне консултације. Рад на реалним проблемима из области машинског учења.

Аутори Назив Година Издавач Језик
Luk Arbuckle, Khaled El Emam Building an Anonymization Pipeline: Creating Safe Data 2020 O'Reilly Енглески
Clarence Chio, David Freeman Machine Learning and Security: Protecting Systems with Data and Algorithms 2018 O'Reilly Енглески
Joshua Saxe, Hillary Sanders Malware Data Science: Attack Detection and Attribution 2018 No Starch Press Енглески
Paisi, A. Hands-On Artificial Intelligence for Cybersecurity: Implement smart AI systems for preventing cyber attacks and detecting threats and network anomalies 2019 Packt Publishing Ltd. Енглески
Предметна активност Предиспитна Обавезна Број поена
Предметна активност
Усмени део испита
Предиспитна
Не
Обавезна
Да
Број поена
30.00
Предметна активност
Домаћи задатак
Предиспитна
Да
Обавезна
Да
Број поена
20.00
Предметна активност
Предметни пројекат
Предиспитна
Да
Обавезна
Да
Број поена
50.00

Предавања

API Image

проф. др Горан Сладић

Редовни професор

Предавања

Предавања

Рачунарске вежбе

Рачунарске вежбе