Yi 完整使用指南

创新工场创始人李开复博士亲自带队、零一万物(01.AI)推出的开源大语言模型家族,以「小参数高性能 + 超长上下文 + Apache 2.0」组合,成为国产开源大模型的代表。

评分: 8.6/10 价格: 开源权重免费(Apache 2.0)/云端 API 付费 厂商: 零一万物(01.AI) 官网: 01.ai / platform.lingyiwanwu.com

目录

1. 什么是Yi
2. 核心功能
3. 如何使用
4. 价格方案
5. 竞品对比
6. 优缺点
7. 常见问题
8. 总结建议
9. 快速开始

快速开始

⏱ 预计耗时:5 分钟 · 难度:小白友好

测试编辑:Mnet 测试日期:2026-06-15 测试环境:Windows 11 / macOS 15 / Chrome 138

第 1 步:准备工作

• 操作系统:Windows 10+/macOS 12+/Ubuntu 20.04+
• Python 3.8+ 与 pip
• GPU 显存 ≥ 18GB(9B BF16),想跑 6B 可降到 13GB,跑 34B BF16 需 70GB+ 或用 Int4 量化版(约 20GB)
• 安装 Git LFS:https://git-lfs.com
• Hugging Face 镜像配置(国内加速):

export HF_ENDPOINT=https://hf-mirror.com   # Windows PowerShell: $env:HF_ENDPOINT="https://hf-mirror.com"

第 2 步:跟着做

路线 A:本地跑开源权重(免费、可商用)

1. 克隆代码仓库(代码:01-ai/Yi):

git clone https://github.com/01-ai/Yi.git
cd Yi
pip install -r requirements.txt

2. 下载 Yi-1.5-9B-Chat 模型权重(约 18GB):

git lfs install
git clone https://huggingface.co/01-ai/Yi-1.5-9B-Chat

3. 把下面代码保存为 demo.py 并运行,即可本地对话:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("01-ai/Yi-1.5-9B-Chat", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    "01-ai/Yi-1.5-9B-Chat",
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
).eval()

messages = [{"role": "user", "content": "请用一句话介绍零一万物 Yi 模型"}]
input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt", add_generation_prompt=True).to("cuda")
outputs = model.generate(input_ids, max_new_tokens=256, do_sample=True, temperature=0.7, top_p=0.95)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

python demo.py

首次运行会加载权重,1-3 分钟后看到中文回答即成功。

路线 B:不想本地部署,直接调云端 API(更快)

1. 注册并拿 API Key:访问 platform.lingyiwanwu.com,完成实名认证后新建 API Key,新用户有 60 元免费额度(以官方最新活动为准)。

2. 安装 OpenAI 兼容 SDK 并调用:

pip install openai

from openai import OpenAI

client = OpenAI(
    api_key="你的API_KEY",
    base_url="https://api.lingyiwanwu.com/v1"
)
resp = client.chat.completions.create(
    model="yi-lightning",
    messages=[{"role": "user", "content": "你好,请用一句话介绍你自己"}],
    temperature=0.3
)
print(resp.choices[0].message.content)

第 3 步:验证

• 成功标志:本地路线看到中文对话输出;API 路线看到 resp.choices[0].message.content 含中文回复
• 国内拉 huggingface.co 失败时,把克隆 URL 改为 https://hf-mirror.com/01-ai/Yi-1.5-9B-Chat;若只想快速体验模型能力,优先用云端 API(路线 B)
• 下一步建议:① 想要 OpenAI 一键迁移,把 base_url 换成 https://api.lingyiwanwu.com/v1 即可接入 Dify/LangChain;② 本地显存不够,把模型换为 6B-Chat 或 9B-Chat-Int4(https://hf-mirror.com/01-ai/Yi-1.5-9B-Chat-4bits);③ 长文档场景改用 yi-medium-200k;④ 多模态任务用 yi-vision-v2 支持图片问答;⑤ 商用请阅读 GitHub LICENSE,Apache 2.0 协议下保留版权声明即可商用

什么是Yi

Yi 系列大模型由创新工场董事长兼 CEO 李开复博士亲自带队、零一万物(01.AI)公司开发。2023 年 11 月,零一万物开源了 Yi-6B 和 Yi-34B 两款预训练大模型,凭借「以 340 亿参数击败 Llama 2-70B、Falcon-180B 等大尺寸模型」的成绩,登顶 Hugging Face 开源大模型排行榜,成为当时国产模型在该榜单上的里程碑事件。此后,零一万物陆续推出 Yi-34B-Chat-0205、Yi-34B-Chat-200K(200K 超长上下文)、Yi-VL-Plus(多模态)、Yi-1.5 系列(6B/9B/34B 升级版)、Yi-Large(千亿参数闭源旗舰)、Yi-Vision-V2 等多款产品,形成开源+闭源+API+2C 应用的完整矩阵。2024 年起,Yi 系列以 Apache 2.0 License 在 GitHub、Hugging Face、ModelScope 等多平台同步开源,可免费商用,大幅降低企业接入门槛。

Yi 的目标用户覆盖三类:一是中文大模型研究者与中小开发者,需要可商用、性能强的开源基座;二是企业用户,尤其是需要处理长文档(法律、金融、咨询)、做多模态问答、做 RAG/Agent 集成的团队;三是对性价比敏感的中等规模 API 用户,可使用零一万物开放平台提供的 yi-lightning、yi-vision-v2 等低价高吞吐 API。Yi 在中文榜单(C-Eval、CMMLU、SuperCLUE)与英文榜单(MMLU、BBH)上长期保持同尺寸 SOTA 表现,Yi-Large 闭源版本更在斯坦福 AlpacaEval 2.0 LC Win Rate 排名中位列全球第二、Win Rate 排名第一(以官方公开数据为准)。2025 年,零一万物继续推进 Yi-XLarge MoE 模型的训练,目标对标一线闭源大模型。

核心功能

1. 多规格开源模型 — 提供 6B/9B/34B 等不同参数规模的开源版本,采用 Apache 2.0 License,商用友好,模型权重可在 Hugging Face、ModelScope 同步下载。
2. 超长上下文(200K) — Yi-34B-Chat-200K 支持 200K tokens 上下文窗口,约 40 万汉字,可一次性处理 1 本《三体》或 1000+ 页 PDF。
3. 多模态视觉理解(Yi-VL-Plus / Yi-Vision-V2) — 支持 1024×1024 高分辨率图片输入,具备图片问答、图表理解、OCR、视觉推理能力,中文图表体验超过 GPT-4V(以官方公开数据为准)。
4. 指令微调对话能力 — Yi-1.5 系列通过 500B tokens 持续预训练 + 300 万指令样本微调,在编码、数学、推理、指令遵循能力上较 Yi-1.0 显著提升,部分指标超过 Qwen2-72B,接近 Llama 3-70B。
5. OpenAI 兼容 API — 零一万物 API 平台完全兼容 OpenAI SDK,只需修改 base_url 与 api_key 即可平滑迁移,降低开发者切换成本。

如何使用

注册和入门

如使用零一万物 API 平台(yi-lightning、yi-vision-v2、yi-medium 等),需访问 platform.lingyiwanwu.com 注册账号,完成实名认证后创建 API Key,新用户可获得 60 元试用额度(以官方最新活动为准)。如选择本地部署开源权重,无需注册,只需 Python 3.8+、PyTorch 2.0+、Git LFS 等基础环境。推荐硬件:6B BF16 约需 13GB 显存,9B 约 18GB,34B BF16 约 70GB+;Int4 量化后 6B 约 6GB、34B 约 20GB。

基础操作流程

1. 克隆代码仓库:

git clone https://github.com/01-ai/Yi.git
cd Yi
pip install -r requirements.txt

2. 下载模型权重(以 Yi-1.5-9B-Chat 为例):

git lfs install
git clone https://huggingface.co/01-ai/Yi-1.5-9B-Chat

3. Python 调用示例:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("01-ai/Yi-1.5-9B-Chat", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("01-ai/Yi-1.5-9B-Chat", torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True)
messages = [{"role": "user", "content": "请用中文介绍零一万物 Yi 模型"}]
input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt", add_generation_prompt=True).to("cuda")
outputs = model.generate(input_ids, max_new_tokens=512, do_sample=True, temperature=0.7, top_p=0.95)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

4. 通过 OpenAI 兼容 SDK 调用 API:

from openai import OpenAI

client = OpenAI(
    api_key="your-key",
    base_url="https://api.lingyiwanwu.com/v1"
)
completion = client.chat.completions.create(
    model="yi-lightning",
    messages=[{"role": "user", "content": "你好,介绍下你自己"}],
    temperature=0.3
)
print(completion.choices[0].message.content)

5. cURL 调用方式:

curl https://api.lingyiwanwu.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $API_KEY" \
  -d '{
    "model": "yi-lightning",
    "messages": [{"role": "user", "content": "Hi, who are you?"}],
    "temperature": 0.3
  }'

高级技巧

• LangChain 集成:使用 langchain_openai.ChatOpenAI 时,设置 openai_api_base="https://api.lingyiwanwu.com/v1",即可将 Yi 模型接入 LangChain 工作流。
• LlamaIndex 集成:使用 llama_index.llms.openai_like.OpenAILike,设置 api_base 与 model="yi-medium",可快速搭建 RAG 应用。
• 多模态调用:yi-vision-v2 支持单张/多张图片输入,既能传入图片 URL,也可传入 base64 编码的本地图片;流式输出(SSE)适合实时场景。
• 一键启动包:零一万物官方提供无需配置 Python 环境的「一键启动包」,NVIDIA/CPU/AMD 三种版本,适合非开发者快速体验。
• vLLM 高吞吐部署:生产环境推荐 vLLM 部署 34B 量化版,可在 4×A100 上实现 100+ tokens/s 的高并发推理。

价格方案

竞品对比

优缺点

优点:

• 6B/9B/34B 全档 Apache 2.0 开源,可商用无门槛,商用条款清晰
• Yi-34B 以较小参数击败 Llama 2-70B、Falcon-180B,小参数高性能的代表作
• 200K 超长上下文版本在长文档理解、海量数据分析上有明显优势
• API 完全兼容 OpenAI SDK,迁移成本极低,适合现有项目快速接入
• 闭源旗舰 Yi-Large 在 AlpacaEval 等多个国际榜单上排名靠前

缺点:

• 34B 模型的本地部署对硬件要求较高(BF16 约 70GB 显存),中小团队多依赖量化或云端 API
• 早期 Yi-34B 因「使用 LLaMA 架构但改动张量名」引发社区争议,虽项目已转向自研架构,但部分开发者仍持保留态度
• 2024 年后零一万物团队经历过人员调整与战略收缩,2025 年起社区更新节奏相对放缓(以公开信息为准)
• 多模态模型(VL-Plus / Vision-V2)在国内多模态生态中的市场份额落后于 Qwen-VL、GLM-4V
• 闭源旗舰 Yi-Large 与开源版本能力差距较大,部分高阶能力需通过付费 API 获得

常见问题

Q1: Yi 系列模型商用是否需要授权? A1: Yi-1.5、Yi-1.0、Yi-6B/9B/34B 等开源模型权重采用 Apache 2.0 License,商用无需额外申请,只需保留版权与许可声明;但 Yi-Large 等闭源模型仅通过 API 提供,不可下载权重。商用前请以 GitHub 仓库 LICENSE 文件与官方公告为准。

Q2: Yi-1.5 与 Yi-1.0 有什么区别? A2: Yi-1.5 是 Yi-1.0 的升级版,通过 500B tokens 持续预训练 + 300 万指令样本微调,带来编码、数学、推理、指令遵循能力的显著提升,同时保持 Yi-1.0 的 200K 长上下文优势。官方公开数据显示,Yi-1.5-34B 部分指标超过 Qwen2-72B、接近 Llama 3-70B(以官方数据为准)。

Q3: yi-lightning 与 yi-medium、yi-large 的区别? A3: yi-lightning 是 16K 上下文的轻量高速版,主打实时对话与高性价比;yi-medium 提供更稳定的中等规模能力;yi-large 是千亿参数闭源旗舰,能力最强,适合复杂推理与生产级高质量输出。视觉任务使用 yi-vision-v2。三者价格、速度、能力有明显差异,可根据场景选择。

Q4: Yi 模型对中文的方言、古文、繁体支持如何? A4: Yi 在中文能力上综合表现良好,C-Eval、CMMLU、Gaokao 等榜单上 Yi-34B 曾登顶;对简体中文主流任务支持稳定,繁体/古文/方言能力以官网公开评测为准。建议关键场景(古文、方言)上线前做专项评估。

Q5: 能否使用消费级显卡运行 Yi 模型? A5: 6B BF16 约需 13GB 显存,RTX 3090/4090 24GB 即可运行;9B Int4 量化约 8-10GB,RTX 3060 12GB 可尝试;34B 需 Int4 量化后约 20GB 显存,推荐 RTX 4090 24GB 或 A5000;若硬件受限,建议直接调用零一万物云端 API。

总结建议

Yi 系列是国产开源大模型中「小尺寸高性能 + Apache 2.0 完全商用 + 超长上下文」的代表性项目,特别适合以下几类用户:1)需要可商用开源基座的中小开发者与创业团队,商用条款清晰无门槛;2)中文长文档处理(法律合同、咨询报告、研报、代码仓库分析)有刚需的团队,200K 上下文是显著优势;3)做 OpenAI 兼容 API 迁移的项目,只需更换 base_url 即可平滑切换;4)英文研究为主的开发者,可作为 Llama 3、Qwen 的对比对象。选型建议:6B/9B 适合本地开发测试与边缘部署,34B 适合中大型企业私有化部署,云端 API 适合中小流量与快速上线。如果你的场景以代码/数学为主,DeepSeek-V3 性价比更突出;如果以多模态为主,Qwen2.5-VL 与 GLM-4V/4.5V 是更好的选择;如果以英文为主,Llama 3 生态更丰富。商用前请仔细阅读 GitHub 仓库 LICENSE 与最新公告,留意零一万物公司战略调整对模型路线图的影响。