Open WebUI

Open WebUI 为离线模型提供自托管界面。请启用 CORS 以提供本地模型服务（出于安全考虑，默认情况下已禁用）。

transformers serve --enable-cors

要将服务器用于语音转文本，请前往 设置 > 音频。

1. 将 Speech-to-Text Engine 设置为 OpenAI。
2. 将 URL 设置为 http://localhost:8000/v1。
3. 在 SST Model 中输入一个转录模型（openai/whisper-large-v3）。您可以在 Hub 上找到更多模型。

开始聊天并说话。模型会将您的语音转录到输入框中。