FengWu
模型介绍
FengWu(风乌)是上海人工智能实验室联合多所高校发布的全球中期天气预报大模型,已被香港天文台等机构用于业务天气预报。
论文:FengWu: Pushing the Skillful Global Medium-range Weather Forecast beyond 10 Days Lead
https://arxiv.org/abs/2304.02948
模型描述
FengWu模型为基于多模态和多任务深度学习方法构建,不依赖传统物理方程,其完全基于ERA5再分析数据进行训练。
适用场景
| 场景 | 说明 |
|---|---|
| 天气预报训练 | 使用 ERA5 HDF5 数据训练 FengWu |
| 本地快速验证 | 使用虚拟数据检查数据读取、模型训练与推理、推理结果可视化。 |
| ModelScope/OneCode 运行 | 作为独立模型包下载后直接安装依赖并运行脚本。 |
| 多卡训练 | 通过 torchrun 启动多进程训练。 |
使用说明
1. OneCode 使用
可通过 OneCode 在线环境体验智能化一键式 AI4S 编程:
2. 手动安装使用
硬件要求
- 推荐使用 GPU 或 DCU 运行。
- CPU 可以用于导入和小配置连通性验证,完整训练和推理速度较慢。
- DCU 用户需要预先安装 DTK,建议使用 DTK 25.04.2 以上版本或与当前集群匹配的 OneScience 推荐版本。
下载模型包
modelscope download --model OneScience/FengWu --local_dir ./FengWu
cd FengWu
安装运行环境
DCU环境
# 请首先激活DTK及CONDA
conda create -n onescience311 python=3.11 -y
conda activate onescience311
# 支持uv安装
pip install onescience[earth-dcu] -i http://mirrors.onescience.ai:3141/pypi/simple/ --trusted-host mirrors.onescience.ai
GPU环境
# 请首先激活CONDA
conda create -n onescience311 python=3.11 -y libstdcxx-ng=12 libgcc-ng=12 gcc_linux-64=12 gxx_linux-64=12
conda activate onescience311
# 支持uv安装
pip install onescience[earth-gpu] -i http://mirrors.onescience.ai:3141/pypi/simple/ --trusted-host mirrors.onescience.ai
训练数据介绍
OneScience 社区提供可供训练的 ERA5 数据(受数据文件大小限制,当前仓库内为完整数据切片),用户可通过下述命令下载,并确认 conf/config.yaml 中数据路径设置正确:
modelscope download --dataset OneScience/ERA5 --local_dir ./data
训练
单卡:
python scripts/train.py
多卡:
torchrun --nproc_per_node=8 --nnodes=1 --rdzv_id=1000 --rdzv_backend=c10d --max_restarts=0 --master_addr="localhost" --master_port=29500 scripts/train.py
训练会在 data/checkpoints/ 下保存 model_bak.pth。
训练权重
本仓库在weights/文件夹内提供基于39年ERA5再分析数据训练的权重,权重文件即将上传,预计将于近期完成。
推理
python scripts/inference.py
推理结果会保存至 result/output/。
评估和可视化
python scripts/result.py
result.py 末尾可指定日期和变量进行可视化。
OneScience 官方信息
| 平台 | OneScience 主仓库 | Skills 仓库 |
|---|---|---|
| Gitee | https://gitee.com/onescience-ai/onescience | https://gitee.com/onescience-ai/oneskills |
| GitHub | https://github.com/onescience-ai/OneScience | https://github.com/onescience-ai/oneskills |
引用与许可证
- 本仓库为 FengWu 原始论文的复现版本。