Doktoraty Wydziału IET

mgr inż. Michał Koziarski

Promotor: prof. dr hab. inż. Bogusław Cyganek (AGH)

Promotor pomocniczy: dr inż. Bartosz Krawczyk (VCU)

Dyscyplina: Informatyka

Niezbalansowanie danych, czyli dysproporcja pomiędzy liczbą obserwacji treningowych należących do różnych klas, pozostaje jednym z najbardziej istotnych wyzwań współczesnego uczenia maszynowego. Negatywny wpływ niezbalansowania danych na tradycyjne algorytmy klasyfikacji może być zredukowany poprzez zastosowanie metod wstępnego przetwarzania danych, czyli algorytmów modyfikujących zbiór danych treningowych w celu sztucznego zredukowania stopnia niezbalansowania. Istniejące metody wstępnego przetwarzania danych, w szczególności SMOTE oraz jego pochodne, są jednak podatne na obecność skomplikowanych dystrybucji danych. Wynika to po części z faktu, że SMOTE nie uwzględnia informacji na temat pozycji obiektów z klasy większościowej. Celem poniższej rozprawy jest opracowanie nowych metod wstępnego przetwarzania danych, natywnie uwzględniających informację na temat dystrybucji zarówno klasy większościowej jak i mniejszościowej. Rozprawa zawiera podsumowanie zawartości 12 prac naukowych skupiających się na opracowaniu nowych metod wstępnego przetwarzania danych w problemie binarnym, ich przeniesienie do problemu wieloklasowego, oraz praktyczne zastosowanie w zadaniu klasyfikacji obrazów histopatologicznych.

Data imbalance, that is the disproportion between the number of training observations coming from different classes, remains one of the most significant challenges affecting contemporary machine learning. The negative impact of data imbalance on traditional classification algorithms can be reduced by the data preprocessing techniques, methods that manipulate the training data to artificially reduce the degree of imbalance. However, the existing data preprocessing techniques, in particular SMOTE and its derivatives, which constitute the most prevalent paradigm of imbalanced data preprocessing, tend to be susceptible to various data difficulty factors. This is in part due to the fact that the original SMOTE algorithm does not utilize the information about majority class observations. The focus of this thesis is development of novel data resampling strategies natively utilizing the information about the distribution of both minority and majority class. The thesis summarizes the content of 12 research papers focused on the proposed binary data resampling strategies, their translation to the multi-class setting, and the practical application to the problem of histopathological data classification.

Praca doktorska

1. phd.pdf

Recenzje

1. recenzja_prof_m_choras.pdf
2. recenzja_dr_hab_r_burduk.pdf

Ważniejsze publikacje doktoranta:

1. M. Koziarski and M. Woźniak. “CCR: A combined cleaning and resampling algorithm for imbalanced data classification”. International Journal of Applied Mathematics and Computer Science 27:4, 2017, pp. 727–736
2. M. Koziarski, B. Krawczyk, and M. Woźniak. “Radial-based approach to imbalanced data oversampling”. In: International Conference on Hybrid Artificial Intelligence Systems. Springer. 2017, pp. 318–327
3. M. Koziarski, B. Krawczyk, and M. Woźniak. “Radial-Based Oversampling for noisy imbalanced data classification”. Neurocomputing 343, 2019, pp. 19–33
4. M. Koziarski. “Radial-Based Undersampling for imbalanced data classification”. Pattern Recognition 102, 2020, p. 107262
5. M. Koziarski, C. Bellinger, and M. Woźniak. “RB-CCR: Radial-Based Combined Cleaning and Resampling algorithm for imbalanced data classification”. Machine Learning (2021)
6. M. Koziarski. “CSMOUTE: Combined Synthetic Oversampling and Undersampling Technique for Imbalanced Data Classification”. 2021 International Joint Conference on Neural Networks (IJCNN). IEEE, 2021.
7. M. Koziarski. “Potential Anchoring for imbalanced data classification”. Pattern Recognition (2021): 108114.
8. B. Krawczyk, M. Koziarski, and M. Woźniak. “Radial-Based Oversampling for multiclass imbalanced data classification”. IEEE Transactions on Neural Networks and Learning Systems 31:8, 2019, pp. 2818–2831
9. M. Koziarski, M. Woźniak, and B. Krawczyk. “Combined Cleaning and Resampling algorithm for multi-class imbalanced data with label noise”. Knowledge-Based Systems 204, 2020, p. 106223
10. M. Koziarski, B. Kwolek, and B. Cyganek. “Convolutional neural network-based classification of histopathological images affected by data imbalance”. In: The Second International Workshop on Deep Learning for Pattern Recognition, 24th International Conference on Pattern Recognition. Springer, 2018, pp. 1–11
11. M. Koziarski. “Radial-Based Undersampling Algorithm for Classification of Breast Cancer Histopathological Images Affected by Data Imbalance”. In: 2019 12th International Congress on Image and Signal Processing, BioMedical Engineering and Informatics (CISP-BMEI). IEEE. 2019, pp. 1–5
12. M. Koziarski, B. Cyganek, B. Olborski, Z. Antosz, M. Żydak, B. Kwolek, P. Wąsowicz, A. Bukała, J. Swadźba, and P. Sitkowski. “DiagSet: a dataset for prostate cancer histopathological image classification”. arXiv preprint arXiv:2105.04014, 2021.