- Descrizione :
Un corpus di riferimento da utilizzare per misurare i progressi nella modellazione del linguaggio statistico. Questo ha quasi un miliardo di parole nei dati di addestramento.
Documentazione aggiuntiva : Esplora documenti con codice
Pagina iniziale : http://www.statmt.org/lm-benchmark/
Codice sorgente :
tfds.datasets.lm1b.BuilderVersioni :
-
1.1.0(impostazione predefinita): nessuna nota di rilascio.
-
Dimensione del download :
1.67 GiBDimensione del set di dati :
4.40 GiBCache automatica ( documentazione ): No
Divisioni :
| Diviso | Esempi |
|---|---|
'test' | 306.688 |
'train' | 30.301.028 |
- Struttura delle caratteristiche :
FeaturesDict({
'text': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
| Caratteristica | Classe | Forma | Tipo D | Descrizione |
|---|---|---|---|---|
| CaratteristicheDict | ||||
| testo | Testo | corda |
Chiavi supervisionate (vedi
as_superviseddoc ):('text', 'text')Figura ( tfds.show_examples ): non supportato.
Esempi ( tfds.as_dataframe ):
- Citazione :
@article{DBLP:journals/corr/ChelbaMSGBK13,
author = {Ciprian Chelba and
Tomas Mikolov and
Mike Schuster and
Qi Ge and
Thorsten Brants and
Phillipp Koehn},
title = {One Billion Word Benchmark for Measuring Progress in Statistical Language
Modeling},
journal = {CoRR},
volume = {abs/1312.3005},
year = {2013},
url = {http://arxiv.org/abs/1312.3005},
archivePrefix = {arXiv},
eprint = {1312.3005},
timestamp = {Mon, 13 Aug 2018 16:46:16 +0200},
biburl = {https://dblp.org/rec/bib/journals/corr/ChelbaMSGBK13},
bibsource = {dblp computer science bibliography, https://dblp.org}
}