基础设施与开源工具
AI 工具与基座模型索引
收录开发者真实高频采用的生产级推理引擎、本地部署工具与前沿基座。不设虚假主观排名,只呈现开源许可、官方文档与核心特性。
开源推理框架 Apache-2.0 vLLM Project / UC Berkeley
vLLM
高吞吐量、低延迟的 LLM 推理和服务引擎,基于 PagedAttention 显存优化技术,业界主流企业级部署首选。
本地运行工具 MIT Ollama Team
Ollama
一键在本地机器(macOS/Linux/Windows)快速下载、运行和管理开源大模型(Llama 3、Qwen、DeepSeek等)。
开源基座模型 Apache-2.0 (部分尺寸) 阿里巴巴通义实验室
Qwen 2.5 (通义千问)
涵盖 0.5B 到 72B 多种参数规格,在代码生成、长文本理解和多语言推理方面表现卓越的顶级开源模型系列。
开源模型生态库 Apache-2.0 Hugging Face
Hugging Face Transformers
全球数万预训练模型的核心 Python 库,覆盖文本、视觉、音频等多模态任务,AI 开发者必备基石。
商业闭源与 API 商业 API (提供免费层) Google
Google Gemini 2.5 / 1.5
原生多模态架构,具备百万级长上下文窗口、低延迟音视频理解以及 Google AI Studio 官方免费测试配额。