发现最值得关注的AI 工具/项目

Z

z-ai/glm-5.2:nitro

模型

这是 OpenRouter 上指向 Z.ai GLM-5.2 nitro 变体的模型标识，主要帮助已接入 OpenRouter 的开发者发起文本生成与对话输出。

C

CosyVoice

模型

阿里/FunAudioLLM 的开源 TTS 与声音克隆模型系列，主要帮助开发者、研究者和本地部署用户生成配音、旁白及参考音色复现语音。

D

DeepSeek Engram

开源项目

一种面向大模型研究者和训练工程师的条件记忆架构方向，用内部 lookup 机制探索新的模型结构与训练、推理实验。

L

llm-benchmarks

开源项目

一个开源的 LLM 推理速度基准工具，帮助开发者和研究者比较不同模型或推理方案的吞吐、延迟等性能结果。

F

Floway

开源项目

一个面向开发者的开源无服务器 LLM API 网关，帮助你把多家模型服务统一成类 OpenAI/Anthropic 接口并产出可观测、可切换的应用接入层。

R

ragtime

开源项目

一个面向 LLM 开发者与评测团队的开源 LLMOps 框架，主要用于把文本生成模型的测试、对比与评估流程整理成可重复的评测产出。

S

svar

开源项目

svar 是一个 Clojure 开源库，主要帮助已在用文本型 LLM 的开发者把模型回复约束并解析成类型安全的结构化结果。

V

vllm-mlx

开源项目

这是一个面向 Apple Silicon 的开源推理服务器，主要帮助想在 Mac 本地部署模型的开发者产出可直接接入应用的 OpenAI/Anthropic 兼容 API 服务。

L

lucebox

开源项目

一个开源本地 LLM 推理服务器，主要帮助想在消费级 NVIDIA/AMD 与混合硬件上跑大模型的开发者产出更快的本地推理与服务部署结果。

N

NVIDIA Model-Optimizer

开源项目

这是 NVIDIA 的开源模型优化库，主要帮助推理与平台工程师把 PyTorch、ONNX、LLM 模型做量化压缩，并产出适合 NVIDIA 推理栈使用的优化检查点或部署前流程。