get_data.sh 575 字节
Newer Older
T
typhoonzero 已提交
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26
#!/bin/sh

out_dir=$OUT_DIR
split_count=$SPLIT_COUNT

set -e

mkdir -p $out_dir
cp -r /quick_start $out_dir/

mkdir -p $out_dir/0/data
cd $out_dir/0/data
wget http://paddlepaddle.bj.bcebos.com/demo/quick_start_preprocessed_data/preprocessed_data.tar.gz
tar zxvf preprocessed_data.tar.gz
rm preprocessed_data.tar.gz

split -d --number=l/$split_count -a 5 train.txt train.
mv train.00000 train.txt

cd $out_dir
end=$(expr $split_count - 1)
for i in $(seq 1 $end); do
    mkdir -p $i/data
    cp -r 0/data/* $i/data
    mv $i/data/train.`printf %05d $i` $i/data/train.txt
done;