README.md 3.9 KB
Newer Older
H
haoyuying 已提交
1
# SkyAR
jm_12138's avatar
jm_12138 已提交
2

H
haoyuying 已提交
3
|模型名称|SkyAR|
W
wuzewu 已提交
4
| :--- | :---: |
H
haoyuying 已提交
5
|类别|视频-视频编辑|
H
haoyuying 已提交
6
|网络|UNet|
H
haoyuying 已提交
7
|数据集|-|
H
haoyuying 已提交
8 9 10 11
|是否支持Fine-tuning|否|
|模型大小|206MB|
|指标|-|
|最新更新日期|2021-02-26|
jm_12138's avatar
jm_12138 已提交
12

H
haoyuying 已提交
13
## 一、模型基本信息
jm_12138's avatar
jm_12138 已提交
14

H
haoyuying 已提交
15
- ### 应用效果展示
W
wuzewu 已提交
16

H
haoyuying 已提交
17 18
    - 样例结果示例:
        * 原始视频:
jm_12138's avatar
jm_12138 已提交
19

H
haoyuying 已提交
20
            ![原始视频](https://img-blog.csdnimg.cn/20210126142046572.gif)
jm_12138's avatar
jm_12138 已提交
21

H
haoyuying 已提交
22
        * 木星:
jm_12138's avatar
jm_12138 已提交
23

H
haoyuying 已提交
24 25
            ![木星](https://img-blog.csdnimg.cn/20210125211435619.gif)
        * 雨天:
jm_12138's avatar
jm_12138 已提交
26

H
haoyuying 已提交
27 28
            ![雨天](https://img-blog.csdnimg.cn/2021012521152492.gif)
        * 银河:
jm_12138's avatar
jm_12138 已提交
29

H
haoyuying 已提交
30 31
            ![银河](https://img-blog.csdnimg.cn/20210125211523491.gif)
        * 第九区飞船:
jm_12138's avatar
jm_12138 已提交
32

H
haoyuying 已提交
33 34
            ![第九区飞船](https://img-blog.csdnimg.cn/20210125211520955.gif)
        * 原始视频:
jm_12138's avatar
jm_12138 已提交
35

H
haoyuying 已提交
36 37
            ![原始视频](https://img-blog.csdnimg.cn/20210126142038716.gif)
        * 漂浮城堡:
jm_12138's avatar
jm_12138 已提交
38

H
haoyuying 已提交
39 40
            ![漂浮城堡](https://img-blog.csdnimg.cn/20210125211514997.gif)
        * 电闪雷鸣:
jm_12138's avatar
jm_12138 已提交
41

H
haoyuying 已提交
42 43
            ![电闪雷鸣](https://img-blog.csdnimg.cn/20210125211433591.gif)
        * 超级月亮:
jm_12138's avatar
jm_12138 已提交
44

H
haoyuying 已提交
45
            ![超级月亮](https://img-blog.csdnimg.cn/20210125211417524.gif)
jm_12138's avatar
jm_12138 已提交
46

H
haoyuying 已提交
47 48 49 50 51
- ### 模型介绍

    - SkyAR是一种用于视频中天空置换与协调的视觉方法,主要由三个核心组成:天空抠图网络、运动估计和图像融合。

    - 更多详情请参考:[SkyAR](https://github.com/jiupinjia/SkyAR)
jm_12138's avatar
jm_12138 已提交
52

H
haoyuying 已提交
53
    - 参考论文:Zhengxia Zou. [Castle in the Sky: Dynamic Sky Replacement and Harmonization in Videos](https://arxiv.org/abs/2010.11800). CoRR, abs/2010.118003, 2020.
jm_12138's avatar
jm_12138 已提交
54

H
haoyuying 已提交
55
## 二、安装
jm_12138's avatar
jm_12138 已提交
56

H
haoyuying 已提交
57
- ### 1、环境依赖
jm_12138's avatar
jm_12138 已提交
58

H
haoyuying 已提交
59
    - paddlepaddle >= 2.0.0
jm_12138's avatar
jm_12138 已提交
60

H
haoyuying 已提交
61
    - paddlehub >= 2.0.0
jm_12138's avatar
jm_12138 已提交
62

H
haoyuying 已提交
63
- ### 2、安装
jm_12138's avatar
jm_12138 已提交
64

H
haoyuying 已提交
65 66 67 68 69
    ```shell
    $hub install SkyAR
    ```
    -  如您安装时遇到问题,可参考:[零基础windows安装](../../../../docs/docs_ch/get_start/windows_quickstart.md)
      | [零基础Linux安装](../../../../docs/docs_ch/get_start/linux_quickstart.md) | [零基础MacOS安装](../../../../docs/docs_ch/get_start/mac_quickstart.md)
jm_12138's avatar
jm_12138 已提交
70 71


H
haoyuying 已提交
72
## 三、模型API预测
jm_12138's avatar
jm_12138 已提交
73

H
haoyuying 已提交
74
- ### 1、预测代码示例
jm_12138's avatar
jm_12138 已提交
75

H
haoyuying 已提交
76 77
    ```python
    import paddlehub as hub
jm_12138's avatar
jm_12138 已提交
78

H
haoyuying 已提交
79 80 81
    model = hub.Module(name='SkyAR')

    model.MagicSky(
H
haoyuying 已提交
82 83
        video_path="/PATH/TO/VIDEO",
        save_path="/PATH/TO/SAVE/RESULT"
H
haoyuying 已提交
84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127
    )
    ```
- ### 2、API

    ```python
    def MagicSky(
            video_path, save_path, config='jupiter',
            is_rainy=False, preview_frames_num=0, is_video_sky=False, is_show=False,
            skybox_img=None, skybox_video=None, rain_cap_path=None,
            halo_effect=True, auto_light_matching=False,
            relighting_factor=0.8, recoloring_factor=0.5, skybox_center_crop=0.5
        )
    ```

    - **参数**

        * video_path(str):输入视频路径
        * save_path(str):视频保存路径
        * config(str): 预设 SkyBox 配置,所有预设配置如下,如果使用自定义 SkyBox,请设置为 None:
        ```
        [
            'cloudy', 'district9ship', 'floatingcastle', 'galaxy', 'jupiter',
            'rainy', 'sunny', 'sunset', 'supermoon', 'thunderstorm'
        ]
        ```
        * skybox_img(str):自定义的 SkyBox 图像路径
        * skybox_video(str):自定义的 SkyBox 视频路径
        * is_video_sky(bool):自定义 SkyBox 是否为视频
        * rain_cap_path(str):自定义下雨效果视频路径
        * is_rainy(bool): 天空是否下雨
        * halo_effect(bool):是否开启 halo effect
        * auto_light_matching(bool):是否开启自动亮度匹配
        * relighting_factor(float): Relighting factor
        * recoloring_factor(float): Recoloring factor
        * skybox_center_crop(float):SkyBox center crop factor
        * preview_frames_num(int):设置预览帧数量,即只处理开头这几帧,设为 0,则为全部处理
        * is_show(bool):是否图形化预览


## 四、更新历史

* 1.0.0

  初始发布