- Описание :
Экстремальный тест
Тест Cross-lingual Transfer Evaluation of Multilingual Encoders (XTREME) — это тест для оценки способности предварительно обученных многоязычных моделей к межъязыковому обобщению. Он охватывает 40 типологически разнообразных языков (охватывающих 12 языковых семей) и включает в себя девять задач, которые в совокупности требуют рассуждений о разных уровнях синтаксиса и семантики. Языки в XTREME выбираются для максимального языкового разнообразия, охвата существующих задач и доступности обучающих данных. Среди них много малоизученных языков, таких как дравидийские языки тамильский (на которых говорят в южной Индии, Шри-Ланке и Сингапуре), телугу и малаялам (на которых говорят в основном в южной Индии), а также нигеро-конголезские языки суахили и йоруба, на которых говорят в Африке.
Полное описание бенчмарка см. в статье .
- Домашняя страница :
https://sites.research.google/xtreme
Версии :
-
1.0.0(по умолчанию): первоначальный выпуск
-
Наборы данных в версии по умолчанию :
-
xnli:xtreme_xnli:1.1.0 -
pawsx:xtreme_pawsx:1.0.0 -
pos:xtreme_pos:1.0.0 - :
nerwikiann:1.0.0 -
xquad:xquad:3.0.0 -
mlqa:mlqa:1.0.0 -
tydiqa:tydi_qa:3.0.0 - бук :
buccbucc:1.0.0 -
tatoeba:tatoeba:1.0.0
-
Цитата :