发现最值得关注的AI 工具/项目

T

TensorRT-LLM

开源项目

TensorRT-LLM 是 NVIDIA 的开源 LLM 推理优化框架，主要帮助有 NVIDIA GPU 的 AI/推理工程师把大模型部署成更高吞吐、低延迟的线上推理服务。

Z

ZenMux

一个通过统一 API 聚合多种大模型的平台，主要帮助开发者和企业团队快速获得可接入 Cursor、Claude Code、Hermes、OpenCode 等工作流的模型访问能力。

方

方舟 Coding Plan

方舟 Coding Plan 是面向开发者和小团队的编程模型 API 月费计划，帮助他们统一调用多款国产模型，产出代码生成、补全和审查结果。

G

Guardrails

开源项目

NVIDIA 维护的开源护栏框架，帮助开发者为 LLM 对话应用产出更可控、更合规的回复与对话流程。

L

LMCache

开源项目

LMCache 是开源 LLM 推理缓存基础设施，帮助自建 serving 团队在 vLLM、SGLang、TensorRT-LLM 上产出更低 TTFT、更高吞吐的在线推理服务。

C

Claude-Mem

开源项目

Claude-Mem 是面向 Claude Code 等 AI 编程助手的开源记忆插件，主要帮助长期维护代码库的开发者减少重复解释，并产出能延续项目上下文的跨会话开发流程。

B

bitnet-cpp

一个面向开发者与研究者的 1-bit CPU 推理框架，帮助他们在无 GPU 的本地机器上完成大模型实验、离线生成与硬件效率验证。

W

WorldClaw

一个聚合 300+ 大模型的统一 API 路由层，主要帮助开发者、AI 工作室和接受稳定币结算的 Web3 团队更快产出可调用的多模型推理接口与 Agent 原型流程。

Z

z-ai/glm-5.2

z-ai/glm-5.2 是智谱 AI 的语言模型，主要帮助开发者和 Agent 团队生成代码、编排工具调用并完成长流程任务，而不是开箱即用的完整 AI 应用。

K

Kronos

Kronos 是面向量化研究者和金融 AI 开发者的开源 K 线基础模型，可把 OHLC 类市场数据转成模型输入，产出趋势预测、波动率分析和研究实验结果。