Hugging Peers

ESM

☆ Save
by OneScience pytorch mit
16 downloads 1 likes on ModelScope updated

Model card

ESM

模型介绍

ESM（Evolutionary Scale Modeling）是 Meta AI / FAIR 发布的蛋白质语言模型家族，可用于蛋白质序列表征、结构预测、变异效应评估和固定骨架序列设计。

论文：Evolutionary-scale prediction of atomic-level protein structure with a language model
https://www.science.org/doi/10.1126/science.ade2574

模型描述

本模型包集成 ESM-1、ESM-2、MSA Transformer、ESMFold、ESM-1v 和 ESM-IF1 的 PyTorch 推理能力，并提供 DCU 运行适配。配套样例数据随 ModelScope 模型包 OneScience/ESM 发布。

适用场景

场景 说明
蛋白序列表征提取 输入 FASTA 文件，输出 per-token、mean、BOS 或 contact 表征
蛋白结构预测 输入一条或多条氨基酸序列，输出对应 PDB 结构文件
变异效应评分 输入野生型序列和 DMS 突变表，输出突变影响评分
固定骨架序列设计 输入 PDB / CIF 结构和链 ID，采样满足骨架约束的候选序列
结构条件序列打分 输入结构和候选序列，计算 conditional log-likelihood
ModelScope / OneCode 运行 下载模型工程后，在生物领域运行环境中快速验证脚本连通性

使用说明

1. OneCode 使用

可通过 OneCode 在线环境体验智能化一键式 AI4S 编程：

点击体验智能化一键式 AI4S 编程

2. 手动安装使用

硬件要求

  • 推荐使用 GPU 或 DCU 运行。
  • CPU 可以用于导入和小配置连通性验证，完整训练和推理速度较慢。
  • DCU 用户需要预先安装 DTK，建议使用 DTK 25.04.2 以上版本或与当前集群匹配的 OneScience 推荐版本。

环境检测

  • NVIDIA GPU：
nvidia-smi
  • 海光 DCU：
hy-smi

下载模型包

modelscope download --model OneScience/ESM --local_dir ./ESM
cd ESM

本模型包已包含少量样例数据，可直接用于默认流程验证。

安装运行环境

DCU环境

# 请首先激活DTK及CONDA
conda create -n onescience311 python=3.11 -y
conda activate onescience311
# 支持uv安装
pip install onescience[bio-dcu] -i http://mirrors.onescience.ai:3141/pypi/simple/  --trusted-host mirrors.onescience.ai



#如果需要找不到库的情况需要激活cuda，参考下列代码
source ${ROCM_PATH}/cuda/env.sh
export LD_LIBRARY_PATH="$CONDA_PREFIX/lib:$LD_LIBRARY_PATH"
export LD_LIBRARY_PATH="$CONDA_PREFIX/lib/python3.11/site-packages/fastpt/torch/lib:$LD_LIBRARY_PATH"

安装完成后回到模型包目录：

cd ./ESM

训练与推理数据介绍

ESM 示例使用的 FASTA、PDB / CIF 和 DMS 数据已随 ModelScope 模型包 OneScience/ESM 发布，完整下载模型包后可在 data/ 目录中直接使用。本模型包不包含训练入口，数据用于示例推理和流程验证。也可仅下载数据目录：

modelscope download --model OneScience/ESM ESM/data --local_dir ./data

训练权重

仓库已内置 weight/下ESM的多项权重可供推理时自行选择。

准备权重

请将所需 ESM 权重放置在以下目录：

weight/
  checkpoints/
    esm2_t6_8M_UR50D.pt
    esmfold_3B_v1.pt
    esm1v_t33_650M_UR90S_1.pt
    esm_if1_gvp4_t16_142M_UR50.pt
    ...

如果使用共享运行目录，也可以通过环境变量指定权重位置：

export ESM_WEIGHT_DIR=/path/to/esm/weight

默认示例会读取：

  • weight/checkpoints/esm2_t6_8M_UR50D.pt

ESMFold、ESM-1v 和 ESM-IF1 示例需要对应权重可用。

默认示例

bash scripts/infer.sh

默认示例会读取 data/fasta/few_proteins.fasta，使用 esm2_t6_8M_UR50D.pt 提取蛋白表征，并将结果保存至 outputs/embeddings/。

序列表征提取

python scripts/extract.py \
  weight/checkpoints/esm2_t6_8M_UR50D.pt \
  data/fasta/few_proteins.fasta \
  outputs/embeddings \
  --include mean per_tok \
  --repr_layers 6

ESMFold 结构预测

python scripts/fold.py \
  -i data/fasta/few_proteins.fasta \
  -o outputs/pdb \
  --model-dir weight \
  --cpu-only

输出目录会生成一个或多个 .pdb 文件。正式 GPU / DCU 推理时，可去掉 --cpu-only，并根据显存情况设置 --chunk-size 或 --max-tokens-per-batch。

也可以通过默认脚本显式启用 ESMFold：

RUN_ESMFOLD=1 bash scripts/infer.sh

inverse folding 序列采样

python scripts/inverse_folding/sample_sequences.py \
  data/inverse_folding/5YH2.pdb \
  --chain A \
  --outpath outputs/sampled_seqs.fasta \
  --num-samples 1 \
  --nogpu

inverse folding 序列打分

python scripts/inverse_folding/score_log_likelihoods.py \
  data/inverse_folding/5YH2.pdb \
  data/inverse_folding/5YH2_mutated_seqs.fasta \
  --chain A \
  --outpath outputs/sequence_scores.csv \
  --nogpu

变异效应预测

变异效应预测需要提供与 DMS 突变列匹配的野生型序列：

python scripts/variant_prediction/predict.py \
  --model-location esm1v_t33_650M_UR90S_1 \
  --sequence "${ESM_VARIANT_SEQUENCE}" \
  --dms-input data/variant_prediction/BLAT_ECOLX_Ranganathan2015.csv \
  --mutation-col mutant \
  --dms-output outputs/variant_prediction.csv \
  --offset-idx 24 \
  --scoring-strategy wt-marginals

数据格式

样例数据默认存放在 data/ 下：

data/
  fasta/
    few_proteins.fasta
    some_proteins.fasta
  inverse_folding/
    5YH2.pdb
    5YH2.cif
    5YH2_mutated_seqs.fasta
    example.json
  variant_prediction/
    BLAT_ECOLX_Ranganathan2015.csv
    rho_pp.csv
    aggregated_rho.csv
    aggregated_rho_round3.csv

其中：

  • FASTA 文件用于序列表征提取和结构预测。
  • PDB / CIF 文件用于 inverse folding 采样和结构条件序列打分。
  • 变异效应预测 CSV 需包含突变列，默认示例列名为 mutant，突变格式形如 A123B。
  • 自定义 DMS 数据需要保证 --sequence 提供的野生型序列与突变列中的野生型氨基酸一致。

验证

静态导入检查：

python scripts/check_import_boundaries.py

语法检查：

python -B -c "import ast, pathlib; [ast.parse(p.read_text(encoding='utf-8'), filename=str(p)) for root in ['model', 'scripts', 'tests'] for p in pathlib.Path(root).rglob('*.py')]"

OneScience 官方信息

平台 OneScience 主仓库 Skills 仓库
Gitee https://gitee.com/onescience-ai/onescience https://gitee.com/onescience-ai/oneskills
GitHub https://github.com/onescience-ai/OneScience https://github.com/onescience-ai/oneskills

引用与许可证