- Descrizione :
Traduci il set di dati in base ai dati di statmt.org.
Esistono versioni per i diversi anni utilizzando una combinazione di più fonti di dati. La base wmt_translate ti consente di creare la tua configurazione per scegliere la tua coppia dati/lingua creando un tfds.translate.wmt.WmtConfig personalizzato.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Documentazione aggiuntiva : Esplora documenti con codice
Pagina iniziale : http://www.statmt.org/wmt15/translation-task.html
Codice sorgente :
tfds.translate.Wmt15TranslateVersioni :
-
1.0.0(impostazione predefinita): nessuna nota di rilascio.
-
Istruzioni per il download manuale : questo set di dati richiede di scaricare manualmente i dati di origine in
download_config.manual_dir(il valore predefinito~/tensorflow_datasets/downloads/manual/):
Alcune delle configurazioni wmt qui richiedono un download manuale. Si prega di guardare in wmt.py per vedere il percorso esatto (e il nome del file) che deve essere scaricato.Cache automatica ( documentazione ): No
Figura ( tfds.show_examples ): non supportato.
Citazione :
@InProceedings{bojar-EtAl:2015:WMT,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Haddow, Barry and Huck, Matthias and Hokamp, Chris and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Scarton, Carolina and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2015 Workshop on Statistical Machine Translation},
booktitle = {Proceedings of the Tenth Workshop on Statistical Machine Translation},
month = {September},
year = {2015},
address = {Lisbon, Portugal},
publisher = {Association for Computational Linguistics},
pages = {1--46},
url = {http://aclweb.org/anthology/W15-3001}
}
wmt15_translate/cs-en (configurazione predefinita)
Descrizione della configurazione : set di dati dell'attività di traduzione cs-en WMT 2015.
Dimensione del download :
1.62 GiBDimensione del set di dati:
2.89 GiBDivisioni :
| Diviso | Esempi |
|---|---|
'test' | 2.656 |
'train' | 15.793.126 |
'validation' | 3.003 |
- Struttura delle caratteristiche :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| Traduzione | ||||
| cs | Testo | corda | ||
| it | Testo | corda |
Chiavi supervisionate (vedi
as_superviseddoc ):('cs', 'en')Esempi ( tfds.as_dataframe ):
wmt15_translate/de-en
Descrizione della configurazione : set di dati dell'attività di traduzione de-en WMT 2015.
Dimensione del download :
1.62 GiBDimensione del set di dati:
1.37 GiBDivisioni :
| Diviso | Esempi |
|---|---|
'test' | 2.169 |
'train' | 4.522.998 |
'validation' | 3.003 |
- Struttura delle caratteristiche :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| Traduzione | ||||
| de | Testo | corda | ||
| it | Testo | corda |
Chiavi supervisionate (Vedi
as_superviseddoc ):('de', 'en')Esempi ( tfds.as_dataframe ):
wmt15_translate/fi-it
Descrizione della configurazione : set di dati dell'attività di traduzione fi-en WMT 2015.
Dimensione del download :
260.51 MiBDimensione del set di dati:
623.22 MiBDivisioni :
| Diviso | Esempi |
|---|---|
'test' | 1.370 |
'train' | 2.073.394 |
'validation' | 1.500 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| Traduzione | ||||
| it | Testo | corda | ||
| fi | Testo | corda |
Chiavi supervisionate (vedi
as_superviseddoc ):('fi', 'en')Esempi ( tfds.as_dataframe ):
wmt15_translate/fr-en
Descrizione della configurazione : set di dati dell'attività di traduzione fr-en WMT 2015.
Dimensione del download :
6.24 GiBDimensione del set di dati:
14.65 GiBDivisioni :
| Diviso | Esempi |
|---|---|
'test' | 1.500 |
'train' | 40.853.298 |
'validation' | 4.503 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'fr': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| Traduzione | ||||
| it | Testo | corda | ||
| fr | Testo | corda |
Chiavi supervisionate (Vedi
as_superviseddoc ):('fr', 'en')Esempi ( tfds.as_dataframe ):
wmt15_translate/ru-en
Descrizione della configurazione : set di dati dell'attività di traduzione ru-en WMT 2015.
Dimensione del download :
1.02 GiBDimensione del set di dati:
843.90 MiBDivisioni :
| Diviso | Esempi |
|---|---|
'test' | 2.818 |
'train' | 2.495.081 |
'validation' | 3.003 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| Traduzione | ||||
| it | Testo | corda | ||
| ru | Testo | corda |
Chiavi supervisionate (vedi
as_superviseddoc ):('ru', 'en')Esempi ( tfds.as_dataframe ):