- الوصف :
ترجمة مجموعة البيانات بناءً على البيانات من statmt.org.
توجد إصدارات لسنوات مختلفة باستخدام مجموعة من مصادر البيانات المتعددة. يسمح لك wmt_translate الأساسي بإنشاء التكوين الخاص بك لاختيار زوج البيانات / اللغة الخاص بك عن طريق إنشاء tfds.translate.wmt.WmtConfig مخصص.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
وثائق إضافية : استكشف في الأوراق باستخدام الرمز
الصفحة الرئيسية : http://www.statmt.org/wmt16/translation-task.html
كود المصدر :
tfds.translate.Wmt16Translateإصدارات :
-
1.0.0(افتراضي): لا توجد ملاحظات حول الإصدار.
-
إرشادات التنزيل اليدوي : تتطلب مجموعة البيانات هذه تنزيل بيانات المصدر يدويًا إلى
download_config.manual_dir(الإعدادات الافتراضية على~/tensorflow_datasets/downloads/manual/):
تتطلب بعض تكوينات wmt هنا تنزيلًا يدويًا. يرجى البحث في wmt.py لمعرفة المسار الدقيق (واسم الملف) الذي يجب تنزيله.الشكل ( tfds.show_examples ): غير مدعوم.
الاقتباس :
@InProceedings{bojar-EtAl:2016:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huck, Matthias and Jimeno Yepes, Antonio and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Neveol, Aurelie and Neves, Mariana and Popel, Martin and Post, Matt and Rubino, Raphael and Scarton, Carolina and Specia, Lucia and Turchi, Marco and Verspoor, Karin and Zampieri, Marcos},
title = {Findings of the 2016 Conference on Machine Translation},
booktitle = {Proceedings of the First Conference on Machine Translation},
month = {August},
year = {2016},
address = {Berlin, Germany},
publisher = {Association for Computational Linguistics},
pages = {131--198},
url = {http://www.aclweb.org/anthology/W/W16/W16-2301}
}
wmt16_translate / cs-en (التكوين الافتراضي)
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 cs-en.
حجم التحميل :
1.57 GiBحجم مجموعة البيانات :
7.56 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 2،999 |
'train' | 52335651 |
'validation' | 2656 |
- هيكل الميزة :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| CS | نص | سلسلة | ||
| en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('cs', 'en')أمثلة ( tfds.as_dataframe ):
wmt16_translate / de-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2016 de-en.
حجم التحميل :
1.57 GiBحجم مجموعة البيانات :
1.38 GiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 2،999 |
'train' | 4،548،885 |
'validation' | 2،169 |
- هيكل الميزة :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| دي | نص | سلسلة | ||
| en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('de', 'en')أمثلة ( tfds.as_dataframe ):
wmt16_translate / fi-en
وصف التكوين : WMT 2016 مجموعة بيانات مهام الترجمة fi-en.
حجم التحميل :
260.51 MiBحجم مجموعة البيانات :
624.31 MiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 6000 |
'train' | 2،073،394 |
'validation' | 1،370 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| فاي | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('fi', 'en')أمثلة ( tfds.as_dataframe ):
wmt16_translate / ro-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 ro-en.
حجم التحميل :
273.83 MiBحجم مجموعة البيانات :
194.35 MiBالتخزين المؤقت التلقائي ( التوثيق ): نعم (اختبار ، التحقق من الصحة) ، فقط عندما يكون
shuffle_files=False(قطار)الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 1999 |
'train' | 610320 |
'validation' | 1999 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ro': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| ريال عماني | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('ro', 'en')أمثلة ( tfds.as_dataframe ):
wmt16_translate / ru-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 ru-en.
حجم التحميل :
993.38 MiBحجم مجموعة البيانات :
854.44 MiBالتخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 2،998 |
'train' | 2،516،162 |
'validation' | 2،818 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| ru | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('ru', 'en')أمثلة ( tfds.as_dataframe ):
wmt16_translate / tr-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2016 tr-en.
حجم التحميل :
59.32 MiBحجم مجموعة البيانات :
63.21 MiBالتخزين المؤقت التلقائي ( الوثائق ): نعم
الانقسامات :
| انشق، مزق | أمثلة |
|---|---|
'test' | 3000 |
'train' | 205756 |
'validation' | 1001 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- وثائق الميزة :
| ميزة | فصل | شكل | نوع | وصف |
|---|---|---|---|---|
| ترجمة | ||||
| en | نص | سلسلة | ||
| آر | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_superviseddoc ):('tr', 'en')أمثلة ( tfds.as_dataframe ):