Moltis

为什么选择 Moltis？

单一二进制文件：下载即可运行，无需安装任何依赖。

极低资源消耗：运行仅需<100MB RAM，适合边缘设备和低配服务器。

本地优先：所有数据本地处理，支持完全离线运行。

多模型支持：统一管理 OpenAI、Claude、Ollama 等多个 LLM 提供商。

核心功能

$#1.
单一二进制部署

• 无需 Node.js/Python 运行时
• 编译后约 15-25MB
• 启动时间<50ms
• 零外部依赖

$#2.
多 LLM 支持

• OpenAI (GPT-4, GPT-3.5)
• Anthropic Claude
• Google Gemini
• Ollama (本地模型)
• 自定义 API 端点

$#3.
长时间记忆

• 向量数据库集成
• 对话历史持久化
• 跨会话记忆
• 上下文管理

$#4.
Web UI

• 内置 Web 界面
• 无需额外部署
• 响应式设计
• 暗色模式支持

$#5.
语音交互

• 语音转文字
• 文字转语音
• 实时语音对话
• 多语言支持

$#6.
沙箱执行

• 代码执行沙箱
• 工具调用隔离
• 安全权限控制
• 资源限制

$#7.
MCP 工具集成

• Model Context Protocol 支持
• 标准化工具接口
• 第三方工具扩展
• 自定义工具开发

安装方式

方式一：下载预编译二进制

# Linux
wget https://github.com/moltis-org/moltis/releases/latest/download/moltis-linux-x64
chmod +x moltis-linux-x64
./moltis-linux-x64

# macOS
wget https://github.com/moltis-org/moltis/releases/latest/download/moltis-macos-x64
chmod +x moltis-macos-x64
./moltis-macos-x64

# Windows
# 下载 moltis-windows-x64.exe 后双击运行

方式二：Cargo 安装

cargo install moltis
moltis

方式三：Docker 部署

docker pull moltis/moltis:latest
docker run -d -p 8080:8080 -v moltis-data:/data moltis/moltis:latest

方式四：源码编译

git clone https://github.com/moltis-org/moltis.git
cd moltis
cargo build --release
./target/release/moltis

配置

基本配置 (config.toml)

[server]
port = 8080
host = "127.0.0.1"

[llm.openai]
api_key = "sk-xxx"
model = "gpt-4"

[llm.ollama]
endpoint = "http://localhost:11434"
model = "llama2"

[memory]
enabled = true
path = "./data/memory"

环境变量

export MOLTIS_OPENAI_KEY="sk-xxx"
export MOLTIS_PORT="8080"

使用示例

API 调用

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Web UI 访问

打开浏览器访问：http://localhost:8080

定价

免费：Moltis 完全免费开源（MIT 许可证）。你只需要支付使用的 LLM API 费用。

系统要求

使用场景

企业级 AI 网关

统一管理局内多个 LLM 服务，提供标准化 API 接口。

本地 AI 部署

在本地服务器或边缘设备部署 AI 服务，数据不出内网。

隐私保护 AI 助手

个人使用，所有对话和处理本地完成，保护隐私。

边缘计算 AI

在资源受限的边缘设备（如树莓派）运行 AI 服务。

多模型统一管理

通过统一接口访问多个 LLM 提供商，简化开发。

离线 AI 服务

结合 Ollama 等本地模型，实现完全离线的 AI 服务。

社区与支持

• 官方网站: https://www.moltis.org
• GitHub: https://github.com/moltis-org/moltis
• 文档: https://github.com/moltis-org/moltis#readme
• Discord: 可在官网找到链接

许可证

MIT License - 免费用于个人和商业用途。

标签

ai-gateway, rust, local-first, single-binary, privacy, edge-computing

FAQ

Is Moltis free to use?

Yes, Moltis is free and open source (MIT license). You only pay for AI model API costs if using external models.

What are the system requirements for Moltis?

Moltis requires 50MB RAM of RAM minimum, Runtime: Native binary (Rust). It runs on Windows, macOS, and Linux.

Can I self-host Moltis?

Yes. Moltis is open source (MIT) and can be self-hosted on your own hardware.

What platforms does Moltis support?

Moltis supports popular chat platforms. Check the official documentation for the most up-to-date list of supported platforms.

Is Moltis suitable for beginners?

Suitability depends on your technical background. Check the getting started guide for more details.

快速入门指南

几分钟内启动 Moltis。

选项 A: 快速设置

步骤 3: 配置

按照官方文档配置您的系统。

步骤 4: 开始使用

连接您的平台并开始交互。

首次使用时间: ~5-15分钟，具体取决于安装方式。

完整文档: https://docs.moltis.org/

常见问题

Moltis 免费吗？

是的，Moltis 是免费的开源软件（MIT 许可证）。您只需支付 AI 模型 API 的费用。

Moltis 的系统要求是什么？

Moltis 需要 50MB RAM, Native binary (Rust)。它可在 Windows、macOS 和 Linux 上运行。

我可以自托管 Moltis 吗？

可以。Moltis 是开源软件（MIT），可以在您自己的硬件上自托管。

Moltis 支持哪些平台？

Moltis 支持流行的聊天平台。请查看官方文档获取最新支持的平台列表。

Moltis 适合初学者吗？

适不适合取决于您的技术背景。请参阅入门指南了解更多详情。