Предсказать ошибку. Как методы оценки неопределенности помогают повышать качество seq2seq-моделей

Дата публікації:
26/01/2024 10:11

Постійна адреса новини:
http://www.vsinovyny.com/10693707

Предсказать ошибку. Как методы оценки неопределенности помогают повышать качество seq2seq-моделей

26/01/2024 10:11 // Хабрахабр:

Всем привет! Меня зовут Артём Важенцев, я аспирант в Сколтехе и младший научный сотрудник AIRI. Наша группа занимается исследованием и разработкой новых методов оценивания неопределенности для языковых моделей. Этим летом мы опубликовали две статьи на ACL 2023.

Про одну из них я уже рассказывал в одном из предыдущих текстов — там мы описали новый гибридный метод оценивания неопределенности для задачи выборочной классификации текстов. Другая же статья про то, как мы адаптировали современные методы оценивания неопределенности на основе скрытого представления модели для задачи генерации текста, а так же показали их высокое качество и скорость работы для задачи обнаружения примеров вне обучающего распределения. Ниже я хотел бы подробнее рассказать об используемых методах и результатах, которые мы получили.

» Читати повністю

«	Наступна новина з архіву Шанс на титул. Украинка поборется в финале Australian Open-2024 в парном разряде	Попередня новина з архіву Samsung DEX в 2024 году: есть ли смысл?	»