- الوصف :
ترجمة مجموعة البيانات بناءً على البيانات من statmt.org.
توجد إصدارات لسنوات مختلفة باستخدام مجموعة من مصادر البيانات المتعددة. يسمح لك wmt_translate الأساسي بإنشاء التكوين الخاص بك لاختيار زوج البيانات / اللغة الخاص بك عن طريق إنشاء tfds.translate.wmt.WmtConfig مخصص.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
الصفحة الرئيسية : http://www.statmt.org/wmt17/translation-task.html
كود المصدر :
tfds.translate.Wmt17Translateإصدارات :
-
1.0.0(افتراضي): لا توجد ملاحظات حول الإصدار.
-
إرشادات التنزيل اليدوي : تتطلب مجموعة البيانات هذه تنزيل بيانات المصدر يدويًا إلى
download_config.manual_dir(الإعدادات الافتراضية على~/tensorflow_datasets/downloads/manual/):
تتطلب بعض تكوينات wmt هنا تنزيلًا يدويًا. يرجى البحث في wmt.py لمعرفة المسار الدقيق (واسم الملف) الذي يجب تنزيله.الشكل ( tfds.show_examples ): غير مدعوم.
الاقتباس :
@InProceedings{bojar-EtAl:2017:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huang, Shujian and Huck, Matthias and Koehn, Philipp and Liu, Qun and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Rubino, Raphael and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2017 Conference on Machine Translation (WMT17)},
booktitle = {Proceedings of the Second Conference on Machine Translation, Volume 2: Shared Task Papers},
month = {September},
year = {2017},
address = {Copenhagen, Denmark},
publisher = {Association for Computational Linguistics},
pages = {169--214},
url = {http://www.aclweb.org/anthology/W17-4717}
}
wmt17_translate / cs-en (التكوين الافتراضي)
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 cs-en.
حجم التحميل :
1.66 GiBحجم مجموعة البيانات :
2.91 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 3،005 |
'train' | 15851649 |
'validation' | 2،999 |
- هيكل الميزة :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| CS | نص | سلسلة | ||
| en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('cs', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / de-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 de-en.
حجم التحميل :
1.81 GiBحجم مجموعة البيانات :
1.73 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 3،004 |
'train' | 5،906،184 |
'validation' | 2،999 |
- هيكل الميزة :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| دي | نص | سلسلة | ||
| en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('de', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / fi-en
وصف التكوين : WMT 2017 مجموعة بيانات مهام الترجمة fi-en.
حجم التحميل :
414.10 MiBحجم مجموعة البيانات :
769.87 MiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 6،004 |
'train' | 2،656،542 |
'validation' | 6000 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| فاي | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('fi', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / lv-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 lv-en.
حجم التحميل :
161.69 MiBحجم مجموعة البيانات :
562.26 MiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 2001 |
'train' | 3،567،528 |
'validation' | 2،003 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'lv': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| lv | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('lv', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / ru-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2017 ru-en.
حجم التحميل :
1.06 GiBحجم مجموعة البيانات :
11.18 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 3،001 |
'train' | 25،782،720 |
'validation' | 2،998 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| ru | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('ru', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / tr-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 tr-en.
حجم التحميل :
59.32 MiBحجم مجموعة البيانات :
63.74 MiBالتخزين المؤقت التلقائي ( الوثائق ): نعم
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 3،007 |
'train' | 205756 |
'validation' | 3000 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| آر | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('tr', 'en')أمثلة ( tfds.as_dataframe ):
wmt17_translate / zh-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2017 zh-en.
حجم التحميل :
884.32 MiBحجم مجموعة البيانات :
6.43 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 2001 |
'train' | 25136609 |
'validation' | 2،002 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'zh': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| zh | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('zh', 'en')أمثلة ( tfds.as_dataframe ):