newspaper

963 downloads 1 likes on ModelScope updated

Model card

Newspaper

这是一个用大模型来收集资讯的agent。基本使用方式如下:

pip install ms-agent -U
TAVILY_API_KEY=xxx ms-agent run --config "ms-agent/newspaper" --modelscope_api_key your-sdk-key-here --query "搜索列举今天AI技术的热点新闻,以及出色的算法和框架工作" --trust_remote_code true --load_cache true

结果可以参见AI技术热点-2025-08-06.md。

本方案流程是:

  • 一个规划者会指定当前主题需要搜索哪些信息流站点
  • 若干个worker会开始并行(目前是串行执行)工作,负责各自站点的信息收集
  • 每个worker都会将自己的采集结果放入output文件夹中,并以md尾缀命名
  • 一个Summarizer会根据所有的结果,整合重复消息,去掉过时消息,并给出一个完整的简报
  • 后面会有一个发送钉钉群的机器人流程

一些重要技术点:

  1. 为了减少tokens,search和fetch会根据\n\n切分,并使用rag进行召回前N个,并且对于github trending进行了特殊处理
    • 在这一步仅做了中文支持,代码在summary_callback.py中
  2. RAG使用了Qwen/Qwen3-Embedding-0.6B做retrieve
  3. 搜索和fetch使用了tavily
  4. 任务拆分使用了ms-agent默认的任务分发工具
  5. 每个worker限定20轮

建议使用魔搭API来进行实验,并欢迎二次开发并将你的工作写入我们的awesome works中,希望你玩得开心!