×
Универзитет у Новом Саду

Предмет: Интелигентни ембедед системи (22.EAI058)

Основне информације:
 
Категорија Научно-стручни
Ужа научна област Електроника
ЕСПБ 6

Машинско учење се данас доминатно налази лоцирано у облаку, извршавајући се на моћним серверима или радним станицама. Међутим, будућност вештачке интелигенције јасно је везана за њено измештање изван облака и уградњу унутар уређаја који се налазе што ближе изворима информација које је потребно обрадити (тзв. „Edge AI”). Разлози за то су вишеструки: пропусни опсег и кашњење система, децентрализација и сигурност, поузданост и расположивост, специфични захтеви обраде, итд. Студенти ће се упознати са основама, трендовима и алатима у развоју AI/ML алгоритама намењених коришћењу унутар ембедед система. Edge AI системи захтевају развој решења са ниском ценом фабрикације и одржавања, радом у условима врло ограничених меморијских, рачунарских и енергетских ресурса. Ово за последицу има потпуно другачији приступ приликом развоја и одабира постојећих AI/ML алгоритама за потребе њивове примене унутар ембедед система.

Након успешног завршетка овог курса студенти ће бити способни да: - Разумеју специфичне захтеве који се постављају пред пројектанте Edge AI система. - Одаберу, модификују, или чак и развију нове AI/ML алгоритаме који ће бити имплементирани унутар ембедед система. - Одаберу или развију оптималну хардверску платформу ембедед система на којој ће бити имплементирани одабрани AI/ML алгоритами. - Изврше интеграцију, тестирање и валидацију одабраних AI/ML алгоритама унутар ембедед система. - Анализирају резултате добијене у процесу интеграције и изврше потребне промене како би се оствариле захтеване перформансе интелигентног ембедед система.

Теоријска настава - Специфичности имплементације алгоритама вештачке интелигенције и машинског учења на хардверским платформама са ограниченим ресурсима. Преглед најчешћих примена техника вештачке интелигенције и машинског учења у ембедед системима. - Преглед техника које се користе приликом развоја нових или прилагођења постојећих алгоритама машинског учења за извршавање на ембедед системима. - Технике спарсификације предиктивних модела (стабала одлуке, СВМ, вештачких неуронских мрежа). - Технике квантизације предиктивних модела. - Технике компресије предиктивних модела. - Ефикасне архитектуре конволуционих неуронских мрежа намењених за извршавање на ембедед система ограничених перформанси (MobileNet, SqueezeNet, EfficientNet, NASNet, итд.). - Аутоматско генерисање архитектуре неуронских мрежа сходно крајњим потребама апликације и расположивим ресурсима унутар ембедед система на којем ће се мрежа извршавати (Neural Architecture Search). - Пројектовање наменских хардверских архитектура за ефикасно извршавање алгоритама вештачке интелигенције и машинског учења. - Пројектовање меморијског подсистема наменског ембедед система за извршавање алгоритама вештачке интелигенције и машинског учења. Организација меморијске хијерархије, одабир начина спрезања хардверског акцелератора са меморијом, начини за локално кеширање података. - Пројектовање хардверског акцелераторског блока. Преглед различитих техника паралелизације организације тока података које се могу користити. Развој архитектура за извршавање спарсификованих модела машинског учења. Развој архитектура за динамичку спарсификацију. Практична настава Рачунарске и лабораторијске вежбе које прате овај курс биће осмишљене на такав начин да кроз практичан рад са постојећим сотверским алатима за тренинг стандардних предиктивних модела машинког и дубоког учења (Scikit-Learn, Keras/TensorFlow, Tiny ML, итд.), уз евентуални додатак посебних пакета за спарсификацију, квантизацију и компресију, илуструју све теоријске концепте који ће бити обрађивани на предавањима. Неизоставни део предмета чини ће самостални студентски пројекат, који ће од сваког студента захтевати да развије један комплетан уграђени електронски систем који ће имплементирати одабрани, претходно прилагођени, предиктивни модел машинског учења и демонстрирати његов успешан рад у циљној апликацији. Овај пројекат ће по правилу бити реализован кроз сарадњу са компанијама које се баве применом алгоритама машинског учења у областима обраде слике, видеа, звука, итд.

Предавања се изводе уз PowerPoint презентације. Праћена су рачунарским и лабораторијским вежбама у Лабораторији за дискретне системе и алгоритме на ФТН. Компаније које се баве применом биолошки инспирисаних неуралних мрежа као и развојем електронских система базираних на биолошки инспирисаним неуралним мрежама примаће студенте на праксу, и омогућиће израду самосталних студентских пројеката. Предиспитне обавезе чиниће успешно завршен и одбрањен самостални студентски пројекат - услов за излазак на испит је 25 од 50 бодова. Кроз колоквијум на половини семестра и у првом испитном року након завршетка слушања предмета може се положити први и други део теоријског испита. Теоријски део испита полагаће се у редовним испитним роковима.

Аутори Назив Година Издавач Језик
V. Sze, Y. Chen, T. Yang, J. S. Emer Efficient Processing of Deep Neural Networks 2020 Morgan & Claypool Енглески
X. Wang, Y. Han, V. C. M. Leung, D. Niyato, X. Yan, X. Chen Edge AI Convergence of Edge Computing and Artificial Intelligence 2020 Springer Енглески
Предметна активност Предиспитна Обавезна Број поена
Предметна активност
Презентација
Предиспитна
Да
Обавезна
Да
Број поена
10.00
Предметна активност
Колоквијум
Предиспитна
Не
Обавезна
Не
Број поена
25.00
Предметна активност
Предметни пројекат
Предиспитна
Да
Обавезна
Да
Број поена
40.00
Предметна активност
Писмени део испита - комбиновани задаци и теорија
Предиспитна
Не
Обавезна
Да
Број поена
50.00
Предметна активност
Колоквијум
Предиспитна
Не
Обавезна
Не
Број поена
25.00

Предавања

Предавања

Предавања

Рачунарске вежбе

Рачунарске вежбе

Рачунарске вежбе