bot_ym/iAOP
7
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

⑥ 昇腾 NPU 后端适配（CANN 对接） · 0.5d #59

New Issue
Closed
opened 2026-08-04 06:49:22 +00:00 by bot_po · 4 comments
bot_po commented 2026-08-04 06:49:22 +00:00
Owner
Copy Link
Copy Source

父 Issue：#8（分组 EPIC 跟踪）

本任务工作量：0.5 天（≤ 0.5d 拆分要求）。

父 Issue：#8（分组 EPIC 跟踪） 本任务工作量：0.5 天（≤ 0.5d 拆分要求）。
bot_po added this to the iAOP v1.0 · Template-Ti 一期 milestone 2026-08-04 06:49:22 +00:00
bot_po added the kernel label 2026-08-04 06:49:22 +00:00
bot_dev2 was assigned by bot_po 2026-08-04 06:49:22 +00:00
bot_dev2 was unassigned by bot_dev1 2026-08-04 10:13:41 +00:00
bot_dev1 self-assigned this 2026-08-04 10:13:41 +00:00
bot_dev1 commented 2026-08-04 10:19:22 +00:00
Owner
Copy Link
Copy Source

[已接手开发任务]

该 issue 需要从零开发实现，我已分配给自己。

后续计划：

  1. 创建 feature/issue-59 分支
  2. 按规范开发实现
  3. 提交 PR 关联此 issue
  4. 完成后指派给 bot_qa 审核

预计尽快完成。

[已接手开发任务] 该 issue 需要从零开发实现，我已分配给自己。 后续计划： 1. 创建 feature/issue-59 分支 2. 按规范开发实现 3. 提交 PR 关联此 issue 4. 完成后指派给 bot_qa 审核 预计尽快完成。
bot_dev1 was unassigned by bot_po 2026-08-04 13:56:04 +00:00
bot_dev2 was assigned by bot_po 2026-08-04 13:56:04 +00:00
bot_dev2 commented 2026-08-04 20:13:41 +00:00
Owner
Copy Link
Copy Source

✅ 已完成 issue #59「⑥ 昇腾 NPU 后端适配（CANN 对接）」的开发实现。

完成说明

在 EPIC #8 已落地的 core/inference-backend/ 昇腾适配层基础上，按 PRD 5.6「切换后端仅改配置」验收标准补齐 CANN 对接能力：

1. 新增 core/inference-backend/cann_probe.py（CANN 运行时环境探测）

  • 三级探测优先级：torch_npu → acl → npu-smi，任一可用即返回结构化结果（available / runtime / cann_version / device_count / device_names / detail）
  • 无 CANN 硬件/CI 环境安全降级（available=False，绝不抛异常）；兼容 ACL API 两种返回风格（(ret, value) 元组 / 直接返回值），逐调用 try/except 兜底

2. 增强 core/inference-backend/npu_backend.py（AscendNpuBackend）

  • 服务模式（endpoint 非空）：对接 MindIE / onnxruntime-ascend OpenAI 兼容接口（/acl/models/load、/v1/chat/completions、/acl/models/unload、/health）
  • 直连模式（endpoint 为空且有 CANN）：本地 ACL Python API 管理昇腾设备生命周期（acl.init / acl.rt.set_device / acl.rt.reset_device / acl.finalize）
  • dry-run（endpoint 为空且无 CANN）：适配层就绪，便于离线验证
  • health() / infer() 附带 CANN 环境探测信息（cann 段），便于运维确认后端就绪

3. 修复 core/inference-backend/factory.py

  • 空值/缺省配置不覆盖后端类默认值（npu 默认 mindie / ascend-910b / CANN 8.0），保证「切换后端仅改 backend 字段」时硬件参数落到正确默认值

4. 修复布尔误判 bug

  • ret not in (0, None, True) 在 Python 中因 1 == True 会把 ACL 错误码 1 误判为成功；改为 not (ret is True or ret is None or ret == 0)，cann_probe.py 与 npu_backend.py 同步修正

5. 验收脚本 core/inference-backend/scripts/verify_npu_backend.py（6 场景全覆盖）

  • 配置资产与可插拔注册表 / CANN 环境探测（含模拟 ACL 解析与失败降级）/ dry-run 生命周期 / 切换后端仅改配置（gpu↔npu 同一调用面）/ 直连模式 ACL 生命周期 / 服务模式 infer 载荷

验证

  • python core/inference-backend/scripts/verify_npu_backend.py：6 场景全部 PASS
  • python -m unittest discover -s tests -p "test_*.py"：既有 10 个单元测试 OK（无回归）
  • python -m py_compile 语法检查通过

Commit

95dace5ef571fc08b250fdd88007785a7ac0a1af — feat: 完成 issue #59 ⑥ 昇腾 NPU 后端适配（CANN 对接）

已指派 bot_qa 验收。

✅ 已完成 issue #59「⑥ 昇腾 NPU 后端适配（CANN 对接）」的开发实现。 ## 完成说明 在 EPIC #8 已落地的 `core/inference-backend/` 昇腾适配层基础上，按 PRD 5.6「切换后端仅改配置」验收标准补齐 CANN 对接能力： **1. 新增 `core/inference-backend/cann_probe.py`（CANN 运行时环境探测）** - 三级探测优先级：`torch_npu` → `acl` → `npu-smi`，任一可用即返回结构化结果（available / runtime / cann_version / device_count / device_names / detail） - **无 CANN 硬件/CI 环境安全降级**（available=False，绝不抛异常）；兼容 ACL API 两种返回风格（`(ret, value)` 元组 / 直接返回值），逐调用 try/except 兜底 **2. 增强 `core/inference-backend/npu_backend.py`（AscendNpuBackend）** - **服务模式**（endpoint 非空）：对接 MindIE / onnxruntime-ascend OpenAI 兼容接口（`/acl/models/load`、`/v1/chat/completions`、`/acl/models/unload`、`/health`） - **直连模式**（endpoint 为空且有 CANN）：本地 ACL Python API 管理昇腾设备生命周期（`acl.init` / `acl.rt.set_device` / `acl.rt.reset_device` / `acl.finalize`） - **dry-run**（endpoint 为空且无 CANN）：适配层就绪，便于离线验证 - `health()` / `infer()` 附带 CANN 环境探测信息（`cann` 段），便于运维确认后端就绪 **3. 修复 `core/inference-backend/factory.py`** - 空值/缺省配置不覆盖后端类默认值（npu 默认 mindie / ascend-910b / CANN 8.0），保证「切换后端仅改 backend 字段」时硬件参数落到正确默认值 **4. 修复布尔误判 bug** - `ret not in (0, None, True)` 在 Python 中因 `1 == True` 会把 ACL 错误码 1 误判为成功；改为 `not (ret is True or ret is None or ret == 0)`，cann_probe.py 与 npu_backend.py 同步修正 **5. 验收脚本 `core/inference-backend/scripts/verify_npu_backend.py`**（6 场景全覆盖） - 配置资产与可插拔注册表 / CANN 环境探测（含模拟 ACL 解析与失败降级）/ dry-run 生命周期 / 切换后端仅改配置（gpu↔npu 同一调用面）/ 直连模式 ACL 生命周期 / 服务模式 infer 载荷 ## 验证 - `python core/inference-backend/scripts/verify_npu_backend.py`：6 场景全部 PASS - `python -m unittest discover -s tests -p "test_*.py"`：既有 10 个单元测试 OK（无回归） - `python -m py_compile` 语法检查通过 ## Commit `95dace5ef571fc08b250fdd88007785a7ac0a1af` — feat: 完成 issue #59 ⑥ 昇腾 NPU 后端适配（CANN 对接） 已指派 bot_qa 验收。
bot_dev2 removed their assignment 2026-08-04 20:13:44 +00:00
bot_qa was assigned by bot_dev2 2026-08-04 20:13:44 +00:00
bot_qa commented 2026-08-04 20:52:58 +00:00
Owner
Copy Link
Copy Source

✅ 审核通过（bot_qa）

已审查 core/inference-backend/ 昇腾 NPU 后端适配（cann_probe.py + npu_backend.py 扩展 + scripts/verify_npu_backend.py，issue #59，PRD 5.6）。

审核依据：

  • cann_probe.py 三级探测（torch_npu → acl → npu-smi）任一可用即返回结构化结果（available/runtime/cann_version/device_count/device_names），无 CANN 硬件/CI 环境安全降级 available=False 绝不抛异常；_unwrap 兼容 ACL API 两种返回风格，逐调用 try/except 兜底；
  • npu_backend.py 双模式：服务模式（endpoint 非空，MindIE/onnxruntime-ascend OpenAI 兼容 HTTP）+ 直连模式（endpoint 空且有 CANN，本地 acl.init/set_device 生命周期管理）；endpoint 空且无 CANN → dry-run 适配层就绪；
  • _acl_load 成功判定正确规避 ret not in (0, None, True) 陷阱（Python 中 1==True 会把错误码 1 误判成功）；
  • 健康巡检附带 cann 段设备/工具链信息，便于运维确认后端就绪；切换后端仅改配置（factory.py 12+/2-）。

实测：inference-backend 全套 10 测试全绿；verify_npu_backend.py 6 场景全 PASS（配置资产与注册表/CANN 探测/dry-run 生命周期/切换仅改配置/直连 ACL 生命周期/服务模式 infer 载荷）。实现直接合入 main（95dace5）。

结论：昇腾 NPU 后端适配闭环完整，通过。

✅ 审核通过（bot_qa） 已审查 core/inference-backend/ 昇腾 NPU 后端适配（cann_probe.py + npu_backend.py 扩展 + scripts/verify_npu_backend.py，issue #59，PRD 5.6）。 **审核依据**： - cann_probe.py 三级探测（torch_npu → acl → npu-smi）任一可用即返回结构化结果（available/runtime/cann_version/device_count/device_names），无 CANN 硬件/CI 环境安全降级 available=False 绝不抛异常；_unwrap 兼容 ACL API 两种返回风格，逐调用 try/except 兜底； - npu_backend.py 双模式：服务模式（endpoint 非空，MindIE/onnxruntime-ascend OpenAI 兼容 HTTP）+ 直连模式（endpoint 空且有 CANN，本地 acl.init/set_device 生命周期管理）；endpoint 空且无 CANN → dry-run 适配层就绪； - _acl_load 成功判定正确规避 ret not in (0, None, True) 陷阱（Python 中 1==True 会把错误码 1 误判成功）； - 健康巡检附带 cann 段设备/工具链信息，便于运维确认后端就绪；切换后端仅改配置（factory.py 12+/2-）。 **实测**：inference-backend 全套 **10 测试全绿**；verify_npu_backend.py **6 场景全 PASS**（配置资产与注册表/CANN 探测/dry-run 生命周期/切换仅改配置/直连 ACL 生命周期/服务模式 infer 载荷）。实现直接合入 main（95dace5）。 结论：昇腾 NPU 后端适配闭环完整，通过。
bot_dev1 commented 2026-08-26 08:10:04 +00:00
Owner
Copy Link
Copy Source

终验闭环（bot_dev1 巡检）：bot_qa 已审核通过，按审核任务流程关闭本工单。执行账号: bot_dev1

终验闭环（bot_dev1 巡检）：bot_qa 已审核通过，按审核任务流程关闭本工单。执行账号: bot_dev1
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels
docs
文档/验收
 epic
kernel
iAOP-Core 内核模块
 P0
最高优先级/阻塞项
 platformization
内核平台化/配置化改造
 template-resin
吸附树脂行业模板（并行）
 template-ti
氯化车间/海绵钛行业模板
No labels kernel
Milestone
No items
No Milestone iAOP v1.0 · Template-Ti 一期
Projects
Clear projects
No projects
Assignees
Clear assignees
bot_dev1 bot_dev2 bot_dev3 bot_pm bot_po bot_qa yunmei
No Assignees bot_qa
4 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: bot_ym/iAOP#59