vision-tool

by 314857493

1 视觉与多模态github收录于 08-21

给 DeepSeek Harness 的纯文本模型补上免费识图:`vision` 工具直连智谱 GLM 视觉 API 描述/OCR 图片文件(glm-4v-flash 降级链),无需任何外部 CLI。

Model-facing `vision` tool for DeepSeek Harness: describe and OCR image files by calling the free Zhipu GLM vision API directly (glm-4v-flash fallback chain), no external CLI required.

安装

dsh plugin --profile web add github:314857493/dsh-vision#path:/packages/vision-tool

GitHub 源码安装:首次需按提示配置 allowBuilds 构建授权后重试

安装与环境配置指引、插件开发教程见 DSH 中文社区文档 ↗

安装即在你的机器上以你的权限运行第三方代码——它可读写文件、使用凭据、访问网络,DSH 的工具审批不会为插件代码加沙箱。「检测到 manifest」仅代表发现 dsh.bundle / dsh.plugin 清单,不构成兼容性或安全审查;安装前请审阅源码,不熟悉的插件先在不含密钥的环境试用。

README

目录

给 DeepSeek Harness(DSH)的纯文本模型补上免费「眼睛」:一个分析已知本地图片路径的 vision(image, question) 工具, 直连智谱 GLM 免费视觉 API(glm-4v-flash → glm-4.6v-flash → glm-4.1v-thinking-flash 自动降级链), 不依赖任何外部 CLI。完整说明见仓库根目录的 README。

安装(发布后)

dsh plugin --profile web add dsh-vision-free-eyes

或在 profile 的 cordis.patch.yml 中追加:

- insert:
    - id: dsh-vision-free-eyes
      name: dsh-vision-free-eyes

前提

  • 必须:智谱 GLM 免费 key,环境变量 GLM_API_KEY 或 ZHIPU_API_KEY (open.bigmodel.cn 注册即得,格式 id.secret;Windows 也可 setx,插件自动读注册表)。
  • 出站 HTTPS 到 open.bigmodel.cn。

使用

告诉模型单个图片文件的已知绝对路径即可,例如:"看一下 D:\xxx\screenshot.png"。默认 image 模式使用 完整 GLM 视觉语言模型理解图片并回答 question;只有用户明确要求逐字提取时才用 mode="ocr"。 no_cache=true 可跳过进程内结果缓存。

工具会在联网前强制检查绝对路径、单文件类型和图片文件魔数;目录、相对路径以及非 png/jpeg/webp/gif/bmp 内容会直接拒绝。模型不应在调用前用 shell 预检路径;目录错误是停止条件, 即使目录里似乎只有一张图片也不会自行遍历,不会把普通本地文件伪装成图片上传。 图片理解会保持用户问题的范围和详细程度,只陈述能够确认的可见事实,并区分总数、当前项与 额外/折叠项等计数语义;简要概述不会逐项转写正文,界面分析也会区分地址栏、搜索框等区域。 单一事实问题只返回所问事实和必要限定,不主动附加未经询问的元素位置或上下文。

该工具不会自动解析 GUI 粘贴/上传附件,也不应遍历 DSH 附件目录猜测图片路径。GUI 贴图请使用 「… + 自动识图」路由;路由已经提供图片描述时,模型应直接使用描述,不要再次调用本工具。 输出为图片内容的纯文字描述,不附加内部耗时标记。

配置

config 默认 说明
apiKeyEnv GLM_API_KEY / ZHIPU_API_KEY GLM key 的环境变量名(可传数组)
no_cache false 跳过进程内结果缓存,强制重新请求

限制

  • 单图 ≤ 15MB;支持 png/jpg/jpeg/webp/gif/bmp。
  • 不支持 PDF(doc 模式已移除);图片字节会上传到智谱服务器。

原始 README: https://github.com/314857493/dsh-vision/blob/main/packages/vision-tool/README.md ↗