Uczenie maszynowe

Sylabus modułu zajęć

Informacje podstawowe

Kierunek studiów Cykl dydaktyczny

Informatyka - Data Science 2021/2022

Specjalność Kod przedmiotu

Wszystkie IEiTIDSS.IIi2K.8ba35fcbc3c124e9725f6bab431a3549.21

Jednostka organizacyjna Języki wykładowe

Wydział Informatyki, Elektroniki i Telekomunikacji Polski

Poziom kształcenia Obligatoryjność

studia magisterskie inżynierskie II stopnia Obowiązkowy

Forma studiów Blok zajęciowy

Stacjonarne przedmioty kierunkowe

Profil studiów Przedmiot powiązany z badaniami naukowymi

Ogólnoakademicki Tak

Koordynator Witold Dzwinel

przedmiotu

Prowadzący zajęcia Witold Dzwinel

Okres Forma weryfikacji uzyskanych efektów uczenia się Liczba

Semestr 2 Egzamin punktów ECTS
5.0
Forma prowadzenia i godziny zajęć
Wykład: 30, Ćwiczenia projektowe: 16, Ćwiczenia laboratoryjne: 14

Cele kształcenia dla przedmiotu

Zapoznanie studentów z zaawansowaną wiedzą związaną z matematycznymi podstawami, metodami

C1
i algorytmami uczenia maszynowego i ich zastosowaniami.

Efekty uczenia się dla przedmiotu

1/6
 Kierunkowe efekty
Kod Efekty w zakresie Metody weryfikacji
uczenia się

Wiedzy – Student zna i rozumie:

Student zna klasyczne metody uczenia maszynowego,

INF2DS_W02,
W1 w tym modele SVM, modele zespołowe i metody Egzamin
INF2DS_W04
ekstrakcji cech.

INF2DS_W01,
Student zna probabilistyczne metody uczenia
W2 INF2DS_W02, Egzamin
maszynowego.
INF2DS_W04

Umiejętności – Student potrafi:

INF2DS_U02,
Student potrafi zaimplementować z wykorzystaniem
INF2DS_U03,
niezbędnych bibliotek oprogramowania modele Wykonanie projektu,
U1 INF2DS_U04,
uczenia maszynowego dla problemów klasyfikacji Zaliczenie laboratorium
INF2DS_U05,
i regresji danych.
INF2DS_U06

Student potrafi stworzyć probabilistyczny model

INF2DS_U01, Wykonanie projektu,
U2 uczenia maszynowego dla zadanego problemu analizy
INF2DS_U05 Zaliczenie laboratorium
i interpretacji danych.

INF2DS_U01,
Student potrafi wyuczyć stworzone modele uczenia INF2DS_U02, Wykonanie projektu,
U3
maszynowego i ocenić ich skuteczność. INF2DS_U04, Zaliczenie laboratorium
INF2DS_U05

Treści programowe zapewniające uzyskanie efektów uczenia się dla modułu zajęć
Przedmiot przedstawia w sposób kompleksowy współczesne metody i algorytmy uczenia maszynowego.

Bilans punktów ECTS

Średnia liczba godzin* przeznaczonych

Rodzaje zajęć studenta
na zrealizowane aktywności

Wykład 30

Ćwiczenia projektowe 16

Ćwiczenia laboratoryjne 14

Przygotowanie do zajęć 30

Samodzielne studiowanie tematyki zajęć 45

Egzamin lub kolokwium zaliczeniowe 2

Dodatkowe godziny kontaktowe 5

Przygotowanie projektu, prezentacji, pracy pisemnej,

8
sprawozdania

Liczba godzin
Łączny nakład pracy studenta
150

2/6
 Liczba godzin
Liczba godzin kontaktowych
60

* godzina (lekcyjna) oznacza 45 minut

Treści programowe

Efekty uczenia się dla Formy prowadzenia

Lp. Treści programowe
przedmiotu zajęć

Laboratoria: W ramach zajęć laboratoryjnych studenci

1. będą wykonywali zadania obejmujące tematykę U1, U2, U3 Ćwiczenia laboratoryjne
materiału wykładowego.

W ramach zajęć projektowych studenci rozwiążą

obszerniejszy problem uczenia maszynowego i analizy
danych korzystając z wiedzy i umiejętności
2. U1, U2, U3 Ćwiczenia projektowe
opanowanych na wykładzie i ćwiczeniach
laboratoryjnych, a także na podstawie dostępnej
literatury przedmiotu.

# Maszyny wektorów wspierających (SVM) - 6h

* Liniowe modele SVM dla regresji i klasyfikacji
* Modele SVM z funkcją jądra
* Algorytmy uczenia modeli SVM
# Metody uczenia zespołowego - 4h
* Bagging, Boosting, Random Forests
# Modele z ciągłymi zmiennymi ukrytymi - 4h
* Analiza składowych głównych (PCA, SVD, LDA)
* Analiza składowych niezależnych (ICA)
# Wnioskowanie Bayesowskie - przypomnienie 4h
* Twierdzenie Bayesa
* Rozkłąd a'priori, rozkład a'posteriri, wiarygodność,
rozkład predykcyjny.
# Procesy Gaussowskie - 4h
* Pojęcie procesu Gaussowskiego.
* Procesy Gaussowskie dla zagadnienia regresji.
3. W1, W2 Wykład
* Jądra kowariancji.
# Wnioskowanie Bayesowskie metodami Monte-Carlo -
4h
* Próbkowanie rozkładów prawdopodobieństwa:
rejection sampling i importance sampling
* Próbkowanie rozkładów prawdopodobieństwa:
Metropolis-Hastings, Gibbs sampling, Hamiltonian
Monte-Carlo.
* Przykład zastosowania: procesy Dirichleta.
# Przybliżone wnioskowanie Bayesowskie (Variational
Bayes) - 4h
* Dolne ograniczenie przesłanki za modelem (Evidence
Lower Bound - ELBO).
* Metody stochastyczne optymalizacji ELBO, model
mean field.
* Przykład zastosowania: autokoder wariacyjny.

Informacje rozszerzone

Metody i techniki kształcenia:

Wykład tablicowy, Wykonanie ćwiczeń laboratoryjnych, Wykonanie projektu

3/6
 Rodzaj zajęć Sposób weryfikacji i oceny efektów uczenia się Warunki zaliczenia przedmiotu

Wykład Egzamin

Wykonanie projektu na ocenę

Ćwiczenia projektowe Wykonanie projektu, Zaliczenie laboratorium
pozytywną

Zaliczenie laboratorium na ocenę

Ćwiczenia laboratoryjne Wykonanie projektu, Zaliczenie laboratorium
pozytywną

Warunki i sposób zaliczenia poszczególnych form zajęć, w tym zasady zaliczeń poprawkowych, a także warunki
dopuszczenia do egzaminu

Warunkiem dopuszczenia do egzaminu jest pozytywna ocena ze wszystkich form zajęć.

Sposób obliczania oceny końcowej

1. Aby uzyskać pozytywną ocenę końcową niezbędne jest uzyskanie pozytywnej oceny z laboratorium (kolokwia) oraz
projektu końcowego. 2. Obliczamy średnią ważoną z ocen z laboratorium (50%) uzyskanych we wszystkich terminach i
projektu (50%) . 3. Wyznaczmy ocenę końcową na podstawie zależności: if sr>4.75 then OK:=5.0 else if sr>4.25 then
OK:=4.5 else if sr>3.75 then OK:=4.0 else if sr>3.25 then OK:=3.5 else OK:=3 4. Jeżeli pozytywną ocenę z laboratorium i
projektu uzyskano w pierwszym terminie oraz ocena końcowa jest mniejsza niż 5.0 to ocena końcowa jest podnoszona o 0.5

Sposób i tryb wyrównywania zaległości powstałych wskutek nieobecności studenta na zajęciach

Nieobecność na zajęciach student może odrobić w trakcie zajęć z inną grupą.

Wymagania wstępne i dodatkowe

Zaliczenie z przedmiotu Rachunek Macierzowy i Statystyka Wielowymiarowa.

Zasady udziału w poszczególnych zajęciach, ze wskazaniem, czy obecność studenta na zajęciach jest
obowiązkowa

Wykład: Studenci uczestniczą w zajęciach poznając kolejne treści nauczania zgodnie z syllabusem przedmiotu. Studenci
winni na bieżąco zadawać pytania i wyjaśniać wątpliwości. Rejestracja audiowizualna wykładu wymaga zgody prowadzącego.
Ćwiczenia laboratoryjne: Studenci wykonują ćwiczenia laboratoryjne zgodnie z materiałami udostępnionymi przez
prowadzącego. Student jest zobowiązany do przygotowania się w przedmiocie wykonywanego ćwiczenia, co może zostać
zweryfikowane kolokwium w formie ustnej lub pisemnej. Zaliczenie zajęć odbywa się na podstawie zaprezentowania
rozwiązania postawionego problemu. Zaliczenie modułu jest możliwe po zaliczeniu wszystkich zajęć laboratoryjnych.
Ćwiczenia projektowe: Studenci wykonują projekt zgodnie z tematem przedstawionym przez prowadzącego. Student jest
zobowiązany do przygotowania się w przedmiocie wykonywanego projektu. Zaliczenie projektu odbywa się na podstawie
zaprezentowania rozwiązania postawionego problemu. Zaliczenie modułu jest możliwe po zaliczeniu projektu.

Literatura
Obowiązkowa

1. Basic literature
2. 1. Bishop Ch.K. Pattern Recognition and Machine Learning, Springer, New York, 2007.
3. 2. Theodoris S and Koutroumbas K, Pattern Recognition, Academic Press, San Diego, London, Boston, 1998
4. Additional literature:
5. 3. Mitra, S. and Acharya T., Data Mining: Multimedia, Soft Computing and Bioinformatics, J. Wiley, 2003.
6. 4. Journals: Pattern Recognition, Pattern Recognition Letters, Elsevier.

Badania i publikacje
Publikacje

4/6
1. 1. Wójcik P., Quellet T., Balcerzak M., Dzwinel, W., Identification of biomarker genes for resistance to a pathogen by
a novel method for meta-analysis of single-channel microarray datasets. Journal of Bioinformatics and Computational
Biology, 13(4), 1550013 (19 pages) 2015. IF=0.785 2. Pawliczek P, Dzwinel W, Yuen DA, Visual exploration of data by
using multidimensional scaling on multi-core CPU, GPU and MPI cluster, Concurrency and Computation: Practice and
Experience, 26(3): 662-682, 2014. IF =0.997 3. Kurdziel M, Boryczko K, Dzwinel W, Procrustes analysis of truncated least
squares multidimensional scaling, Computing and Informatics, 31 (6), 1417-1440, 2012. IF =0.254 4. Czech, W., Dzwinel,
W., Goryczka S., Arodź, T., Dudek, A.Z., Exploring biological networks with Graph Investigator research application,
Computing and Informatics, 30, 1001–1031, 2011 IF =0.239 5. Dzwinel, W., Wcisło, R., ivhd: A robust linear-time and
memory efficient method for visual exploratory data analysis, 13thConference on Machine Learning and Data Mining,
MLDM, New York, July 15-20, 2017, Lecture Notes of Artificial Intelligence, LNAI, 10358, 345-360, 2017 6. Czech, W.,
Mielczarek, W., Dzwinel, W., Comparison of Large Graphs Using Distance Information, 11th International Conference,
PPAM 2015, Lecture Notes of Computer Science, LNCS 9573, 195-206, 2016 7. Dzwinel, W., Wcisło, R., Very fast
interactive visualization of large sets of high-dimensional data, 2015 International Conference of Computational Science,
ICCS 2015, Reykjavik, 1-3.06.2015. Procedia of Computer Science, 51, 572-581, 2015. 8. Pawliczek, P., Dzwinel, W.,
Yuen, DA, Visual Exploration of Data with Multi-thread MIC Computer Architectures, in Rutkowski et al. (Eds.): ICAISC
2015, Part II, Lecture Notes of Artificial Intelligence, LNAI 9120, 25–35, 2015

5/6
 Kierunkowe efekty uczenia się

Kod Treść

Potrafi projektować i realizować systemy informatyczne oparte na danych, a także konstruować systemy
INF2DS_U01
uczące się

Potrafi wykorzystać znane algorytmy, metody obliczeniowe i struktury danych w budowie systemu
INF2DS_U02
informatycznego

Posługuje się technikami i językami programowania stosowanymi w analizie danych, uczeniu maszynowym i
systemach wykorzystujących metody sztucznej inteligencji; potrafi ocenić przydatność różnych
INF2DS_U03 paradygmatów i związanych z nimi środowisk programistycznych do rozwiązywania problemów analizy
danych i realizacji systemów uczących się; potrafi czytać ze zrozumieniem, pisać, uruchamiać i weryfikować
programy zapisane z użyciem różnych paradygmatów programowania

Potrafi ocenić przydatność i korzystać z dostępnych bibliotek, komponentów oprogramowania i narzędzi z

uwzględnieniem wymagań systemów opartych na danych oraz systemów wykorzystujących metody uczenia
INF2DS_U04 maszynowego i sztucznej inteligencji; potrafi porównać istniejące rozwiązania ze względu na zadane
kryteria użytkowe i ekonomiczne oraz wskazać możliwości ich ulepszenia; potrafi ocenić przydatność i
możliwość wykorzystania nowych osiągnięć w zakresie informatyki

Potrafi formułować i testować hipotezy związane z problemami inżynierskimi i prostymi problemami

badawczymi, w szczególności potrafi opracować specyfikację projektową złożonego oprogramowania, z
uwzględnieniem aspektów prawnych oraz innych aspektów pozatechnicznych, z uwzględnieniem norm i
INF2DS_U05
standardów, zaprojektować oprogramowanie adekwatnie do specyfikacji wymagań, opracować szczegółową
dokumentację wyników, a także przygotować i przedstawić prezentację oraz przeprowadzić dyskusję
wyników

Posługuje się językiem specjalistycznym oraz językiem angielskim w stopniu wystarczającym do

INF2DS_U06 porozumiewania się, czytania ze zrozumieniem literatury fachowej, a także przygotowania i wygłoszenia
prezentacji na temat realizacji zadania projektowego lub badawczego

Ma pogłębioną wiedzę w zakresie przedmiotów ścisłych, pozwalającą na formułowanie i rozwiązywanie

INF2DS_W01 złożonych zadań z zakresu informatyki, analizy danych oraz metod uczenia maszynowego i sztucznej
inteligencji

Ma pogłębioną wiedzę w zakresie rozwiązań algorytmicznych, struktur danych i metod obliczeniowych

INF2DS_W02
związanych z analizą danych, uczeniem maszynowym i metodami sztucznej inteligencji

Orientuje się w obecnym stanie oraz najnowszych osiągnięciach i trendach rozwojowych informatyki i
INF2DS_W04 dziedzin pokrewnych oraz ma wiedzę niezbędną do rozumienia pozatechnicznych uwarunkowań działalności
inżynierskiej

6/6