- توضیحات :
مجموعه داده را بر اساس داده های statmt.org ترجمه کنید.
نسخه ها برای سال های مختلف با استفاده از ترکیبی از چندین منبع داده وجود دارد. wmt_translate پایه به شما امکان می دهد با ایجاد یک tfds.translate.wmt.WmtConfig سفارشی، پیکربندی خود را ایجاد کنید تا جفت داده/زبان خود را انتخاب کنید.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
اسناد اضافی : کاوش در کاغذها با کد
صفحه اصلی : http://www.statmt.org/wmt18/translation-task.html
کد منبع :
tfds.translate.Wmt18Translateنسخه ها :
-
1.0.0(پیش فرض): بدون یادداشت انتشار.
-
دستورالعملهای دانلود دستی : این مجموعه داده از شما میخواهد که دادههای منبع را به صورت دستی در
download_config.manual_dir(پیشفرض~/tensorflow_datasets/downloads/manual/):
برخی از تنظیمات wmt در اینجا نیاز به دانلود دستی دارند. لطفاً برای دیدن مسیر دقیق (و نام فایل) که باید دانلود شود، به wmt.py نگاه کنید.شکل ( tfds.show_examples ): پشتیبانی نمی شود.
نقل قول :
@InProceedings{bojar-EtAl:2018:WMT1,
author = {Bojar, Ond
{r}ej and Federmann, Christian and Fishel, Mark
and Graham, Yvette and Haddow, Barry and Huck, Matthias and
Koehn, Philipp and Monz, Christof},
title = {Findings of the 2018 Conference on Machine Translation (WMT18)},
booktitle = {Proceedings of the Third Conference on Machine Translation,
Volume 2: Shared Task Papers},
month = {October},
year = {2018},
address = {Belgium, Brussels},
publisher = {Association for Computational Linguistics},
pages = {272--307},
url = {http://www.aclweb.org/anthology/W18-6401}
}
wmt18_translate/cs-en (پیکربندی پیش فرض)
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 cs-en.
حجم دانلود :
1.89 GiBحجم مجموعه داده :
3.84 GiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 2,983 |
'train' | 24,021,877 |
'validation' | 3005 |
- ساختار ویژگی :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| cs | متن | رشته | ||
| en | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('cs', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/de-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 de-en.
حجم دانلود :
3.55 GiBحجم مجموعه داده :
8.44 GiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 2998 |
'train' | 42,271,874 |
'validation' | 3004 |
- ساختار ویژگی :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| de | متن | رشته | ||
| en | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('de', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/et-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 et-en.
حجم دانلود :
499.91 MiBحجم مجموعه داده :
663.80 MiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 2000 |
'train' | 2,175,873 |
'validation' | 2000 |
- ساختار ویژگی :
Translation({
'en': Text(shape=(), dtype=string),
'et': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| en | متن | رشته | ||
| et | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('et', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/fi-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 fi-en.
حجم دانلود :
468.76 MiBحجم مجموعه داده :
889.40 MiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 3000 |
'train' | 3,280,600 |
'validation' | 6004 |
- ساختار ویژگی :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| en | متن | رشته | ||
| فی | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('fi', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/ru-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 ru-en.
حجم دانلود :
1.63 GiBحجم مجموعه داده :
13.89 GiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 3000 |
'train' | 37,858,512 |
'validation' | 3001 |
- ساختار ویژگی :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| en | متن | رشته | ||
| ru | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('ru', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/tr-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 tr-en.
حجم دانلود :
59.32 MiBحجم مجموعه داده :
63.78 MiBذخیره خودکار ( اسناد ): بله
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 3000 |
'train' | 205756 |
'validation' | 3007 |
- ساختار ویژگی :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| en | متن | رشته | ||
| tr | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('tr', 'en')مثالها ( tfds.as_dataframe ):
wmt18_translate/zh-en
توضیحات پیکربندی : مجموعه داده وظایف ترجمه WMT 2018 zh-en.
حجم دانلود :
831.45 MiBحجم مجموعه داده :
6.43 GiBذخیره خودکار ( اسناد ): خیر
تقسیم ها :
| شکاف | مثال ها |
|---|---|
'test' | 3,981 |
'train' | 25,162,209 |
'validation' | 2001 |
- ساختار ویژگی :
Translation({
'en': Text(shape=(), dtype=string),
'zh': Text(shape=(), dtype=string),
})
- مستندات ویژگی :
| ویژگی | کلاس | شکل | نوع D | شرح |
|---|---|---|---|---|
| ترجمه | ||||
| en | متن | رشته | ||
| zh | متن | رشته |
کلیدهای نظارت شده (نگاه کنید به
as_superviseddoc ):('zh', 'en')مثالها ( tfds.as_dataframe ):