- Tanım :
 
Çok modlu komutlarla, 600K+ yörüngelerle prosedürel olarak oluşturulmuş masa üstü görevleri gerçekleştiren tek bir robot kolunun SIM veri seti
Ana sayfa : https://vimalabs.github.io/
Kaynak kodu :
tfds.robotics.rtx.VimaConvertedExternallyToRldsSürümler :
-  
0.1.0(varsayılan): İlk sürüm. 
-  
 İndirme boyutu :
Unknown sizeVeri kümesi boyutu :
Unknown sizeOtomatik önbelleğe alınmış ( belgeler ): Bilinmiyor
Bölünmeler :
| Bölmek | Örnekler | 
|---|
- Özellik yapısı :
 
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'action_bounds': FeaturesDict({
            'high': Tensor(shape=(3,), dtype=float32),
            'low': Tensor(shape=(3,), dtype=float32),
        }),
        'end-effector type': string,
        'failure': Scalar(shape=(), dtype=bool),
        'file_path': string,
        'n_objects': Scalar(shape=(), dtype=int64),
        'num_steps': Scalar(shape=(), dtype=int64),
        'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
        'seed': Scalar(shape=(), dtype=int64),
        'success': Scalar(shape=(), dtype=bool),
        'task': string,
    }),
    'steps': Dataset({
        'action': FeaturesDict({
            'pose0_position': Tensor(shape=(3,), dtype=float32),
            'pose0_rotation': Tensor(shape=(4,), dtype=float32),
            'pose1_position': Tensor(shape=(3,), dtype=float32),
            'pose1_rotation': Tensor(shape=(4,), dtype=float32),
        }),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'multimodal_instruction': string,
        'multimodal_instruction_assets': FeaturesDict({
            'asset_type': Sequence(string),
            'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
            'key_name': Sequence(string),
            'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
            'segmentation_obj_info': Sequence({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'observation': FeaturesDict({
            'ee': int64,
            'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'image': Tensor(shape=(128, 256, 3), dtype=uint8),
            'segmentation': Tensor(shape=(128, 256), dtype=uint8),
            'segmentation_obj_info': FeaturesDict({
                'obj_name': Sequence(string),
                'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
                'texture_name': Sequence(string),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
- Özellik belgeleri :
 
| Özellik | Sınıf | Şekil | Dtipi | Tanım | 
|---|---|---|---|---|
| ÖzelliklerDict | ||||
| bölüm_meta verileri | ÖzelliklerDict | |||
| bölüm_metadata/action_bounds | ÖzelliklerDict | |||
| bölüm_metadata/action_bounds/yüksek | Tensör | (3,) | kayan nokta32 | |
| bölüm_metadata/action_bounds/low | Tensör | (3,) | kayan nokta32 | |
| Episode_metadata/son efektör türü | Tensör | sicim | ||
| bölüm_metadata/başarısızlık | Skaler | bool | ||
| bölüm_metadata/dosya_yolu | Tensör | sicim | ||
| bölüm_metadata/n_objects | Skaler | int64 | ||
| bölüm_metadata/num_steps | Skaler | int64 | ||
| bölüm_metadata/robot_components_seg_ids | Sıra(Skaler) | (Hiçbiri,) | int64 | |
| bölüm_metadata/seed | Skaler | int64 | ||
| bölüm_metadata/başarı | Skaler | bool | ||
| bölüm_metadata/görev | Tensör | sicim | ||
| adımlar | Veri kümesi | |||
| adımlar/eylem | ÖzelliklerDict | |||
| adımlar/eylem/pose0_position | Tensör | (3,) | kayan nokta32 | |
| adımlar/eylem/pose0_rotation | Tensör | (4,) | kayan nokta32 | |
| adımlar/eylem/poz1_konumu | Tensör | (3,) | kayan nokta32 | |
| adımlar/eylem/pose1_rotation | Tensör | (4,) | kayan nokta32 | |
| adımlar/indirim | Skaler | kayan nokta32 | ||
| adımlar/is_first | Tensör | bool | ||
| adımlar/is_last | Tensör | bool | ||
| adımlar/is_terminal | Tensör | bool | ||
| adımlar/multimodal_instruction | Tensör | sicim | ||
| adımlar/multimodal_instruction_assets | ÖzelliklerDict | |||
| adımlar/multimodal_instruction_assets/asset_type | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/multimodal_instruction_assets/frontal_image | Sıra(Tensör) | (Yok, 128, 256, 3) | uint8 | |
| adımlar/multimodal_instruction_assets/frontal_segmentation | Sıra(Tensör) | (Yok, 128, 256) | uint8 | |
| adımlar/multimodal_instruction_assets/image | Sıra(Tensör) | (Yok, 128, 256, 3) | uint8 | |
| adımlar/multimodal_instruction_assets/anahtar_adı | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/multimodal_instruction_assets/segmentasyon | Sıra(Tensör) | (Yok, 128, 256) | uint8 | |
| adımlar/multimodal_instruction_assets/segmentation_obj_info | Sekans | |||
| adımlar/multimodal_instruction_assets/segmentation_obj_info/obj_name | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/multimodal_instruction_assets/segmentation_obj_info/segm_id | Sıra(Skaler) | (Hiçbiri,) | int64 | |
| adımlar/multimodal_instruction_assets/segmentation_obj_info/texture_name | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/gözlem | ÖzelliklerDict | |||
| adımlar/gözlem/ee | Tensör | int64 | ||
| adımlar/gözlem/frontal_image | Tensör | (128, 256, 3) | uint8 | |
| adımlar/gözlem/frontal_segmentasyon | Tensör | (128, 256) | uint8 | |
| adımlar/gözlem/görüntü | Tensör | (128, 256, 3) | uint8 | |
| adımlar/gözlem/segmentasyon | Tensör | (128, 256) | uint8 | |
| adımlar/gözlem/segmentasyon_obj_info | ÖzelliklerDict | |||
| adımlar/gözlem/segmentasyon_obj_info/obj_adı | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/gözlem/segmentasyon_obj_info/segm_id | Sıra(Skaler) | (Hiçbiri,) | int64 | |
| adımlar/gözlem/segmentasyon_obj_info/doku_adı | Sıra(Tensör) | (Hiçbiri,) | sicim | |
| adımlar/ödül | Skaler | kayan nokta32 | 
Denetlenen anahtarlar (
as_supervisedbelgesine bakın):NoneŞekil ( tfds.show_examples ): Desteklenmiyor.
Örnekler ( tfds.as_dataframe ): Eksik.
Alıntı :
@inproceedings{jiang2023vima,  title     = {VIMA: General Robot Manipulation with Multimodal Prompts},  author    = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning},  year      = {2023}. }