内置 CUDA、Vulkan 和 CPU 后端的预构建安装程序。无需编译,无需 Python,无需四处寻找模型。选择模型,点击录制,获取转录文本。完全离线运行且已签名。
whisper.cpp 是由 Georgi Gerganov 创建的 OpenAI Whisper 语音识别模型的 C++ 移植版本,并作为开源项目在 GitHub 上维护。最初的 Whisper 模型是以 Python 发布的,这在 Windows 部署方面造成了巨大的实际障碍:需要安装 Python、配置虚拟环境、匹配 PyTorch 和 CUDA 工具包版本,以及命令行操作。whisper.cpp 通过将 Whisper 推理引擎实现为可编译为原生二进制文件的可移植 C++ 代码,消除了所有这些依赖。
对于 Windows 用户而言,whisper.cpp 意味着可以在没有任何 Python 基础设施的情况下进行本地 Whisper 语音识别。编译后的二进制文件直接在 Windows 上运行,支持 NVIDIA CUDA GPU 加速,并使用与 Python 实现相同的 Whisper 模型权重。Windows 上的 whisper.cpp 是 StarWhisper 得以实现的基础。它是驱动本地转录的引擎,无需用户管理 Python 环境或命令行工具。
本页面介绍了 whisper.cpp 在 Windows 上的功能、StarWhisper 如何将其打包为桌面应用程序、支持的硬件配置,以及 whisper.cpp 与在 Windows 上运行 Python 版 Whisper 的对比。
whisper.cpp 支持所有五种 Whisper 模型尺寸:tiny(3900 万参数)、base(7400 万)、small(2.44 亿)、medium(7.69 亿)和 large-v3(15 亿)。模型文件是标准的 GGML 格式权重,可以从 Hugging Face 模型仓库下载或随安装程序捆绑。StarWhisper 完整安装程序中捆绑了 tiny、base 和 small;medium 和 large 可作为专业版模型下载。
当存在兼容的 GPU 和驱动路径时,StarWhisper 可以使用 NVIDIA CUDA。支持的硬件通过检测后,也可以使用面向 NVIDIA、AMD 和 Intel 的可选 Vulkan 路径。如果没有可用的 GPU 后端,应用会回退到 CPU 推理。 实际速度取决于模型、硬件、驱动程序、音频和设置。
StarWhisper 支持多种 Whisper 语言。在“设置”中选择语言,无需单独下载模型。
whisper.cpp 在生成转录文本的同时会生成单词级别和片段级别的时间戳。StarWhisper 使用这些数据生成 SRT 字幕文件,并支持在转录输出面板中显示时间戳。对于标准语速,时间戳的精确度在几百毫秒以内。
当存在兼容的 GPU 和驱动路径时,StarWhisper 可以使用 NVIDIA CUDA。支持的硬件通过检测后,也可以使用面向 NVIDIA、AMD 和 Intel 的可选 Vulkan 路径。如果没有可用的 GPU 后端,应用会回退到 CPU 推理。
所需时间取决于安装程序、模型下载和 Windows 电脑。
StarWhisper 的用户界面使用 Electron 构建,它提供了跨平台的图形界面层。Electron 前端通过本地 IPC 机制与 whisper.cpp 后端进程通信。从用户的角度来看,这完全透明:它呈现为一个标准的 Windows 应用程序。whisper.cpp 进程与 GUI 分开运行,因此繁重的转录工作负载不会阻塞界面。
支持 CUDA 的 whisper.cpp 构建版本需要 CUDA 运行时库。StarWhisper 捆绑了必要的 CUDA 运行时文件,因此用户无需单独安装完整的 CUDA 工具包。只需在用户的系统上安装 NVIDIA GPU 驱动程序即可。捆绑的 CUDA 运行时与过去几年的所有受支持的 NVIDIA GPU 驱动程序兼容。
whisper.cpp 的模型文件采用 GGML 格式,大小从约 75MB(tiny)到约 3GB(large-v3)不等。StarWhisper 通过“设置”面板处理模型的下载、存储位置和选择。用户无需与原始模型文件交互。应用程序会在下载后验证模型文件的完整性,并在模型文件损坏或不完整时提醒用户。
加载时间取决于模型大小和存储速度。StarWhisper 会让已选模型保持在工作进程中,因此每次请求不必重新加载模型。
以下性能估算适用于使用 Windows 版 whisper.cpp 处理的 60 分钟音频文件:
| 模型 | 仅 CPU(现代台式机) | RTX 3070 (GPU) | 所需内存 |
|---|---|---|---|
| tiny | 约 6 分钟 | 约 1 分钟 | 约 1 GB |
| small | 约 60 分钟 | 约 4 分钟 | 约 2 GB |
| medium | 约 200 分钟 | 约 15 分钟 | 约 5 GB |
| large-v3 | 约 600 分钟 | 约 40 分钟 | 约 10 GB |
估算值会因 CPU/GPU 代际、音频特性和系统负载而异。GPU 内存要求是指推理期间的显存(VRAM);系统内存要求对于 CPU 推理来说较低。whisper.cpp GitHub 仓库中有针对更广泛硬件配置的社区基准测试结果。
实际速度取决于模型、硬件、驱动程序、音频和设置。
仅针对非拉丁文字(中日韩 CJK、阿拉伯文、西里尔文)或长篇连续音频才考虑使用 medium。只有当准确性比速度更重要且您拥有 GPU 时,才考虑使用 large-v3。对于短听写片段,这两个较大的模型都有可能会插入从未说过的短语。如果您不确定选择哪个,请坚持使用 small。
当存在兼容的 GPU 和驱动路径时,StarWhisper 可以使用 NVIDIA CUDA。支持的硬件通过检测后,也可以使用面向 NVIDIA、AMD 和 Intel 的可选 Vulkan 路径。如果没有可用的 GPU 后端,应用会回退到 CPU 推理。 实际速度取决于模型、硬件、驱动程序、音频和设置。
更大的模型需要更多内存,在仅 CPU 硬件上可能更慢。请查看“设置”中的提示;内存占用和速度取决于模型与硬件。
不需要。StarWhisper 捆绑了适用于 Windows 的预编译 whisper.cpp 二进制文件。无需 Python、Conda 或命令行设置。安装 StarWhisper 后,即可通过图形界面使用 whisper.cpp。
当存在兼容的 GPU 和驱动路径时,StarWhisper 可以使用 NVIDIA CUDA。支持的硬件通过检测后,也可以使用面向 NVIDIA、AMD 和 Intel 的可选 Vulkan 路径。如果没有可用的 GPU 后端,应用会回退到 CPU 推理。
StarWhisper 使用相同的 Whisper 模型系列。输出质量取决于所选模型、音频质量、说话人、语言和背景噪音。
tiny:约 75MB,base:约 145MB,small:约 465MB,medium:约 1.5GB,large-v3:约 3GB。StarWhisper 捆绑了 tiny + base + small 的完整安装程序大小约为 700MB。其他模型可根据需要从“设置”面板下载。