МЕТОД АНАЛІЗУ ТА ФОРМУВАННЯ РЕПРЕЗЕНТАТИВНИХ ВИБІРОК ТЕКСТОВИХ ДАНИХ ІЗ ВИКОРИСТАННЯМ МОДЕЛЕЙ МАШИННОГО НАВЧАННЯ

Анотація

Розроблено метод аналізу та формування репрезентативних вибірок текстових даних, призначений для аналізу та формування репрезентативних текстових вибірок даних за принципом справедливості FATE для предметних областей. Метод виконує аналіз репрезентативності вибірки даних за етичними аспектами, за результатом чого виконується репрезентативне коригування датасету за етичними аспектами. При коригуванні датасету відбувається вирішення оптимізаційної задачі як для вибору надлишкових елементів для видалення, так і для формування вимог щодо приналежності за етичними аспектами до кожного елементу для аугментації даних. Для дослідження ефективності методу аналізу та формування репрезентативного подання текстового датасету було створено програмне забезпечення, яке використовує моделі машинного навчання для класифікації текстів за різними етичними аспектами – віку, гендеру, релігії, етнічності тощо. Для класифікації текстових зразків за етичними аспектами у вибірці було використано моделі машинного навчання: за віковим етичним аспектом SVM, гендерним – LSTM, релігійним – BERT, які кращі показники статистичних метрик. В результаті практичного застосування розробленого методу тестовий нерепрезентативний порівняно з об’єктивними даними демографічної статистики датасет було трансформовано у репрезентативний за віковим та гендерним етичними аспектами. Одержані відхилення розподілів зразків за класами етичних аспектів дата-сету, трансформованого за створеним методом, від ідеального репрезентативного розподілу склали: мінімальне – 0.00%, максимальне – 0.04%, середнє – 0.02%, за умов початкового обсягу датасету 47 692 елементів, мінімальної початкової кількості зразків у класі 1007 елементів, максимальної початкової кількості зразків у класі 28 112 елементів. Досліджена ефективність доводить, що розроблений метод дозволяє виконувати аналіз репрезентативності текстових датасетів та приведення їх до репрезентативного вигляду за різними аспектами принципу справедливості FATE.