树洞剪藏#剪藏#树洞剪藏

基于Firefox模型的私有翻译服务MTranServer

2025 年 3 月 8 日1 分钟
分享Twitter / XTelegram微博

同步来源:树洞剪藏 源站剪藏 ID:521 原文地址:https://mp.weixin.qq.com/s?__biz=MzI1NTQxMzc3MA==&mid=2247506906&idx=1&sn=799acf405f342451bd8027f53dda67d8&chksm=ea34c0bfdd4349a9015e3255d48a54a980093c0cf03b9bf7c74da20aa34b52987b4a41357e1d&scene=178&cur_album_id=1721157975098130433#rd

打开原文 · 打开源站剪藏快照


基于Firefox模型的私有翻译服务MTranServer

基于Firefox模型的私有翻译服务MTranServer

原创

杨浦老苏

各种折腾

2025年03月08日 19:00 上海

各种折腾 聚沙成塔,集腋成裘 827篇原创内容

公众号 ,

本文题图背景由 AI 生成; 简介 什么是 MTranServer ?

MTranServer 是一个低资源消耗、快速且可私有部署的翻译服务器,旨在提供与 Google 翻译相似的功能。仅需 1G 内存即可运行,无需显卡。单个请求平均响应时间 50ms 。支持全世界主要语言的翻译。 主要特点

低资源占用 :仅需 1GB 内存即可运行,无需图形处理单元( GPU ),适合在资源有限的环境中部署。

快速响应 :单个请求的平均响应时间为 50 毫秒,支持高并发处理,适合需要快速翻译的应用场景。

多语言支持 :支持多种主要语言的翻译,翻译质量与 Google 翻译相当。

私有部署 :用户可以在自己的服务器上部署 MTranServer ,确保数据的隐私性和安全性。

使用方便 :提供 Docker 部署方式,使得安装和配置变得简单。

适配性 :当前版本主要支持 AMD64 架构的 CPU ,并正在适配其他架构。

性能测试 :与其他翻译解决方案相比, MTranServer 在速度和内存占用方面表现良好。 应用场景

Web 应用: 为 Web 应用提供机器翻译功能。

移动应用: 为移动应用提供机器翻译功能。

聊天机器人: 为聊天机器人提供机器翻译功能。

内容本地化: 用于内容本地化,将内容翻译成不同的语言。

API 服务: 作为一个独立的 API 服务提供机器翻译功能。 当前限制

目前仅支持 amd64 架构 CPU 的 Docker 部署。

需要 CPU 支持 AVX2 指令集, 其他 CPU 的兼容版本等作者测试完成发布。 总的来说, MTranServer 是一个适合需要快速、低资源消耗的翻译服务的解决方案,尤其对于希望在私有环境中保护数据的用户。 准备 建文件夹 在 docker 文件夹中,创建一个新文件夹 mtranserver ,并在其中建一个子文件夹 models 下载模型

【注意】:需要先下载翻译模型文件再启动镜像,否则容器会因为找不到模型文件而自动终止;

模型国内下载地址: https://ocn4e4onws23.feishu.cn/drive/folder/C3kffkLr8lxdtid5GYicAcFAnTh

模型国外下载地址: https://github.com/xxnuo/MTranServer/releases/tag/models 根据需要下载模型文件 例如: enzh.zip :表示是英文翻译成中文的模型 将 zip 文件上传到 models 文件夹后解压 文件夹结构示意图 models/ ├── enzh │ ├── lex.50.50.enzh.s2t.bin │ ├── model.enzh.intgemm.alphas.bin │ └── vocab.enzh.spm ├── zhen │ ├── lex.50.50.zhen.t2s.bin │ ├── model.zhen.intgemm.alphas.bin │ └── vocab.zhen.spm

如果没有下载模型,直接启动镜像,会遇到下面的错误 mtranserver | Fatal error: No valid translation models found in directory: /app/./models

安装 在群晖上以 Docker 方式安装。 在注册表中搜索 mtranserver ,选择第一个 xxnuo/mtranserver ,版本选择 latest 。

本文写作时, latest 版本对应为 1.0.4 ; 卷

文件夹 装载路径 说明 docker/mtranserver/models /app/models 存放模型文件 端口 本地端口不冲突就行,不确定的话可以用命令查一下

查看端口占用

netstat -tunlp | grep 端口号

本地端口 容器端口 8989 8989 环境

可变 值 CORE_API_TOKEN 为你自己设置的一个密码,使用英文大小写和数字。自己内网可以不设置 命令行安装 如果你熟悉命令行,可能用 docker cli 更快捷

新建文件夹 mtranserver 和 子目录

mkdir -p /volume1/docker/mtranserver/models

进入 mtranserver 目录

cd /volume1/docker/mtranserver

将模型下载后放入 models 目录,找不到模型文件,容器会自动终止运行

运行容器

docker run -d \ --restart unless-stopped \ --name mtranserver \ -p 8989:8989 \ -v $( pwd )/models:/app/models \ -e CORE_API_TOKEN=123456 \ xxnuo/mtranserver:latest

也可以用 docker-compose 安装,将下面的内容保存为 docker-compose.yml 文件 services: mtranserver: image: xxnuo/mtranserver:latest container_name: mtranserver restart: unless-stopped ports:

  • "8989:8989" volumes:
  • ./models:/app/models environment:
  • CORE_API_TOKEN=123456

然后执行下面的命令

新建文件夹 mtranserver 和 子目录

mkdir -p /volume1/docker/mtranserver/models

进入 mtranserver 目录

cd /volume1/docker/mtranserver

将 docker-compose.yml 放入当前目录

将模型下载后放入 models 目录,找不到模型文件,容器会自动终止运行

一键启动

docker-compose up -d

运行 不能像往常那样,在浏览器中输入 http://群晖IP:8989 进行访问,因为这不是一个 web 服务,而是个 api 接口服务,需要搭配翻译插件使用 你可以使用 沉浸式翻译 或者 简约翻译 设置

下面以 沉浸式翻译 的 chrome 插件为例 在 设置 页面, 开发者模式 中启用 Beta 测试特性 在 翻译服务 的最后,能找到 自定义 API 进入设置

API URL : 指向我们前面安装的 mtranserver 容器的地址 http://192.168.0.197:8989/imme?token=123456 。如果前面没用设置密码,使用 http://192.168.0.197:8989/imme

每秒最大请求数 : 老苏设了 5000 ;

每次请求最大段落数 :老苏设了 10 ; 回到基本设置,修改 翻译服务 为 自定义API 或者在使用时动态切换 使用 打开一篇英文的文档 点右侧的 沉浸式翻译 的图标 翻译速度超快,同时显示双语 看下容器的资源占用情况 参考文档

xxnuo/MTranServer: Low-resource, fast, and privately self-host free version of Google Translate - 低占用速度快可私有部署的自由版 Google 翻译 地址: https://github.com/xxnuo/MTranServer MTranServer 地址: https://mtranserver.2020818.xyz/

各种折腾 聚沙成塔,集腋成裘 827篇原创内容

公众号 , @所有人:写文不易,如果你都看到了这里,请点个 赞 和 在看 ,分享给更多的朋友;为确保你能收到每一篇文章,请主页右上角设置星标。点点广告就是对老苏最大的支持。

预览时标签不可点

关闭

更多

名称已清空

微信扫一扫赞赏作者 喜欢作者 其它金额

文章 暂无文章

返回 其它金额 更多

赞赏金额 ¥ 最低赞赏 ¥0

1 2 3 4 5 6 7 8 9 0 .

群晖 730 docker 737 人工智能 46 翻译 3 工具 37

群晖 · 目录

上一篇 极简的个人仪表板SimpleDash

阅读原文

关闭

更多

搜索「」网络结果

微信扫一扫 关注该公众号

当前内容可能存在未经审核的第三方商业营销信息,请确认是否继续访问。

继续访问 取消 微信公众平台广告规范指引

: , , , , , , , , , , , , 。

视频 小程序 赞 ,轻点两下取消赞 在看 ,轻点两下取消在看 分享 留言 收藏 听过

set 限制解除

相关文章