Исследования MWS AI вошли в программу конференции EMNLP 2026

Конференция прошла в Венгрии с 24 по 29 октября, а работы команды были приняты в разные треки: DiffIE — в основную программу, Speculative Uncertainty — в Industry Track, CoSpaDi и SEAM — в Findings.

Метод CoSpaDi позволяет уменьшать размер уже обученных больших языковых моделей без дополнительного обучения, сжимая веса гибко для разных частей матрицы. В экспериментах на моделях Llama и Qwen при сжатии на 20–40% подход позволял лучше сохранить качество по сравнению с рядом других исследуемых методов.

Метод DiffIE позволяет находить несколько корректных фактов в одном предложении, запуская модель несколько раз и объединяя найденные варианты. На бенчмарке CaRB (1-1) DiffIE показал лучший результат среди сравниваемых методов по точности и полноте извлечения фактов.

Механизм Speculative Uncertainty снижает долю ошибок при выполнении действий на 6–8 процентных пунктов, а расход токенов — на 14–19%. Подход SEAM сократил объем обучающих аудиоданных с 100 до 25 часов, почти в четыре раза, сохранив сопоставимое качество синтеза речи.