档案清洗合并

档案清洗合并支持的数据集格式为jsonl。对于jsonl文件,每一行是一个档案,如下:

{"archive_dir":"feman","is_invalid":false,"clean_dirs":[{"dir_name":"base_example","label":"","baseline":{"index":0,"s3_object":"s3://asiatrip/105/070049oygllypn7j29pmrr.jpg","text_content":"这是文本信息","bbox":[10,10,100,100]},"files":[{"s3_object":"s3://asiatrip/105/070049oygllypn7j29pmrr.jpg","text_content":"这是文本信息","bbox":[10,10,100,100],"label":"remove"},{"s3_object":"s3://asiatrip/105/15696675628591000_950x659.jpg","text_content":"这是文本信息","bbox":[10,10,100,100],"label":"dog"}]}]}

每行的json数据格式化后,如下:

{
    "archive_dir": "feman",
    "is_invalid": false,
    "clean_dirs": [     
        {
            "dir_name": "base_example",
            "label": "",
            "baseline": {
                "index": 0,
                "s3_object": "s3://asiatrip/105/070049oygllypn7j29pmrr.jpg",
                "text_content": "这是文本信息",
                "bbox": [
                    10,
                    10,
                    100,
                    100
                ]
            },
            "files": [
                {
                    "s3_object": "s3://asiatrip/105/070049oygllypn7j29pmrr.jpg",
                    "text_content": "这是文本信息",
                    "bbox": [
                        10,
                        10,
                        100,
                        100
                    ],
                    "label": "remove"
                },
                {
                    "s3_object": "s3://asiatrip/105/15696675628591000_950x659.jpg",
                    "text_content": "这是文本信息",
                    "bbox": [
                        10,
                        10,
                        100,
                        100
                    ],
                    "label": "dog"
                }
            ]
        }
    ]
}

字段说明:

由于导出的数据集格式要支持再次导入操作,所以导入和导出的数据集格式相同,但是导入时部分字段非必填

字段名 说明 是否必须 备注
archive_dir 档案目录
is_invalid 是否无效 boolean值,true表示无效,false表示有效
clean_dirs 清洗目录 默认第一个为合并的基准目录
dir_name 文件夹名字
label 文件夹标签 文件夹合并时,固定标签:lbf_dir_merge导入时,若无预标注标签,则字段值为""
baseline 基准
index 索引值 如果是图片清洗,该项为必须项,填写的是基准图片在files里面的索引值;如果是文本清洗,该项填写-1
s3_object 基准图片 如果是图片清洗,该项填写图片在s3上的绝对路径地址,s3路径定义:s3://\<bucket\_name>/\<object\_name>如果是文本清洗,该项填写""
bbox 基准图片的bbox 数组,[x,y,w,h],例如:[13, 24, 345, 23]若初始基准无图片请填写[],若填写[0,0,0,0]则后期在标注页面设置基准图片后也无法展示
text_content 基准文本内容 文本清洗,基准文本内容
files 文件
s3_object 文件在s3上的绝对路径地址 s3路径定义:s3://\<bucket\_name>/\<object\_name>
text_content 文本内容 文本清洗时,必填;非文本清洗时,字段值为""
bbox bbox 数组,[x,y,w,h],例如:[13, 24, 345, 23]未设置bbox,则字段值为[]
label 文件标签 标签由用户自定义导入时,若无预标注标签,则字段值为""