НТР провела вебинар на тему: “Сквозная модель понимания речи с помощью кросс-модального обучения методом Учитель-Ученик”
Государственное унитарное предприятие, охватывающее своей деятельностью Москву и частично Московскую область и выполняющее городские и пригородные перевозки автобусами, городские перевозки троллейбусами и трамваями, а также заказные перевозки автобусами городского и междугородного класса.

НОВОСТЬ

2 марта Павел Денисов, Институт обработки естественного языка, Штутгартский университет, Германия, провел научно-технический вебинар в Zoom на тему “Сквозная модель понимания речи с помощью кросс-модального обучения методом Учитель-Ученик”.

Спикер о презентации:

Задача понимания речи (spoken language understanding, SLU) традиционно решается в два этапа: сначала система распознавания речи преобразует речь в текст, затем модель понимания естественного языка (Natural Language Understanding, NLU) выделяет смысл из полученного текста. Замена этих двух этапов единой сквозной (end-to-end) нейросетевой моделью имеет ряд преимуществ, но осложнено относительно малым количеством размеченных данных доступных для тренировки моделей, что решаемо разнообразными методами переноса обучения (transfer learning).

В этой презентации спикер рассказал о методе создания сквозной модели понимания речи, который заключается в копировании параметров моделей распознавания речи и понимания естественного языка с последующим кросс-модальным дообучением методом Учитель-Ученик. Используя модель семантического представления предложений Sentence-BERT в качестве Учителя, мы дообучаем нашу модель понимания речи для вывода аналогичного семантического представления аудио записей, получаемых на входе. Наши эксперименты с классификацией типов высказываний (dialog act) и намерений пользователя (intent) показывают, что без использования соответствующих задаче размеченных аудио записей точность сквозной модели близка к точности традиционного двухэтапного подхода, а также что результаты сквозной модели могут быть улучшены дообучением на нескольких размеченных аудио записях на класс.

Совместно с HITs ТГУ мы организуем открытые научно-технические вебинары о нейронных сетях. С докладами выступают спикеры со всего мира. Вебинары проводятся на русском языке, по вторникам. 

Материалы прошедших и информация о предстоящих событиях на странице: https://www.ntr.ai/webinar.

Модератор и контакт: Генеральный директор НТР Николай Михайловский nickm@ntr.ai.

No items found.

МАТЕРИАЛЫ

СХОЖИЕ ПРОЕКТЫ

Мосэнергосбыт
Российская энергосбытовая компания страны, реализующая свыше 8 % вырабатываемой в России электрической энергии.