МЕТОД ВИЯВЛЕННЯ КОРЕФЕРЕНТНИХ ПАР В УКРАЇНОМОВНОМУ ТЕКСТІ З ВИКОРИСТАННЯМ ЗГОРТКОВИХ НЕЙРОННИХ МЕРЕЖ

Анотація

Пошук кореферентних пар в тексті є однією з базових задач в галузі обробки природної мови. Сучасні методи знаходження кореферентних пар основані на алгоритмах машинного навчання і полягають у виявленні певних закономірностей між семантичними або граматичними властивостями сутностей тексту. В роботі проведено порівняльний аналіз існуючих методів пошуку кореферентних пар в англомовних та україномовних текстах. Недоліком багатьох методів є трактування задачі пошуку анафор в тексті як задачі класифікації. Результатом виявлення кореферентних об’єктів є набір груп, елементи яких посилаються на спільну сутність, тому пошук анафор в тексті доцільно розглядати як задачу кластеризації. Пропонується метод пошуку кореферентних сутностей в текстах, використовуючи поєднання відсіювальних решіт і моделі згорткової нейронної мережі. Реалізовано набір відсіювальних решіт для пошуку кандидатів для формування кореферентної пари та здійснено навчання багатоканальної згорткової нейронної мережі на розміченому корпусі української мови. Використання багатоканальної структури дозволяє окремо аналізувати різні компоненти одиниць тексту: семантичні, лексичні чи граматичні властивості слів і речень. Крім того, за допомогою згорткових шарів мережі можливо здійснювати обробку вхідних даних нефіксованого розміру, наприклад, слів чи речень тексту. Результатом роботи методу є набір кластерів. Формування кластерів передбачає врахування попередніх етапів роботи моделі, що суперечить традиційній методології машинного навчання. Таким чином, навчання мережі виконано з використанням алгоритму SEARN, що дозволяє вирішувати задачі з вихідною нефіксованою структурою за допомогою моделі-класифікатора. Здійснено експериментальну перевірку методу на корпусі україномовних новин за допомогою обчислення відповідних метрик, що оцінюють точність вирішення задачі пошуку кореферентних пар як задачі кластеризації. Отримані результати вказують на доцільність використання пропонованого методу для знаходження кореферентних пар в україномовних текстах. Метод може бути адаптований і застосований для інших природних мов.