НТР провела вебинар на тему: “slimIPL: Итеративная псевдо-разметка без использования лингвистической модели”
Государственное унитарное предприятие, охватывающее своей деятельностью Москву и частично Московскую область и выполняющее городские и пригородные перевозки автобусами, городские перевозки троллейбусами и трамваями, а также заказные перевозки автобусами городского и междугородного класса.

НОВОСТЬ

20 июля Татьяна Лихоманенко, Facebook AI Research, Менло-Парк, Калифорния, США, провела научно-технический вебинар в Zoom на тему “slimIPL: Итеративная псевдо-разметка без использования лингвистической модели”.

Спикер о работе:

“В последнее время псевдо-разметка для обучения с частичным учителем продемонстрировала свою эффективность для распознавания речи. Было также показано, что итеративная псевдо-разметка (IPL), которая учит непрерывно одну модель с помощью псевдо-разметки, итеративно сгенерированной в течение обучения этой модели, далее улучшает качество распознавания речи. 

В текущей работе мы улучшили IPL алгоритм: во время обучения модели мы итеративно генерируем транскрипцию для аудио с помощью hard меток (наиболее вероятностный токен) без использования лингвистической модели. 

Один из ключевых компонентов предложенного алгоритма slimIPL - это динамический кэш для псевдо-разметки, который уменьшает чувствительность к гиперпараметрам псевдо-разметки и стабилизирует обучение. slimIPL очень эффективен и требует 3.5-4x меньше вычислительных ресурсов для обучения чем другие state-of-the-art методы. 

При использовании только 10 часов размеченных данных slimIPL показывает близкие результаты к state-of-the-art; без использования какой бы то ни было лингвистической модели во время тестирования и генерации псевдо-разметки slimIPL является state-of-the-art при использовании 100 часов размеченных данных.”

Совместно с HITs ТГУ мы организуем открытые научно-технические вебинары о нейронных сетях. С докладами выступают спикеры со всего мира. Вебинары проводятся на русском языке, по вторникам. 

Материалы прошедших и информация о предстоящих событиях на странице: https://www.ntr.ai/webinar.

Модератор и контакт: Генеральный директор НТР Николай Михайловский nickm@ntr.ai.

No items found.

МАТЕРИАЛЫ

СХОЖИЕ ПРОЕКТЫ

Мосэнергосбыт
Российская энергосбытовая компания страны, реализующая свыше 8 % вырабатываемой в России электрической энергии.