МЕТОДЫ ВЫЯВЛЕНИЯ КОРЕФЕРЕНТНЫХ ПАР В УКРАИНОЯЗЫЧНЫХ ТЕКСТОВ С ИСПОЛЬЗОВАНИЕМ ЗГОРТКОВИХ НЕЙРОННЫХ СЕТЕЙ

Аннотация

Поиск кореферентных пар в тексте является одной из базовых задач в области обработки естественного языка. Современные методы нахождения кореферентных пар основанные на алгоритмах машинного обучения и заключаются в выявлении определенных закономерностей между семантическими или грамматическими свойствами сущностей текста. В работе проведен сравнительный анализ существующих методов поиска кореферентных пар в англоязычных и украиноязычных текстах. Недостатком многих методов является трактовка задачи поиска анафор в тексте как задачи классификации. Результатом выявления кореферентных объектов является набор групп, элементы которых ссылаются на общую сущность, поэтому поиск анафор в тексте целесообразно рассматривать как задачу кластеризации. Предлагается метод поиска кореферентных сущностей в текстах, используя сочетание видсиювальних решет и модели згорткових нейронной сети. Реализовано набор видсиювальних решет для поиска кандидатов для формирования кореферентных пары и осуществлено обучение многоканальной згорткових нейронной сети на размеченном корпусе украинского языка. Использование многоканальной структуры позволяет отдельно анализировать различные компоненты единиц текста: семантические, лексические или грамматические свойства слов и предложений. Кроме того, с помощью згорткових слоев сети можно осуществлять обработку входящих данных нефиксированного размера, например, слов или предложений текста. Результатом работы метода является набор кластеров. Формирование кластеров предполагает учет предыдущих этапов работы модели, противоречит традиционной методологии машинного обучения. Таким образом, обучение сети выполнено с использованием алгоритма SEARN, что позволяет решать задачи с исходной нефиксированной структурой с помощью модели-классификатора. Осуществлена ​​экспериментальная проверка метода на корпусе украиноязычных новостей с помощью вычисления соответствующих метрик, оценивающих точность решения задачи поиска кореферентных пар как задачи кластеризации. Полученные результаты указывают на целесообразность использования предлагаемого метода для нахождения кореферентных пар в украиноязычных текстах. Метод может быть адаптирован и применен для других естественных языков.