AI
llama.cpp Logo

llama.cpp

AI聊天助手·本地部署·4.5·免费

llama.cpp 是一个用于在本地运行大型语言模型的开源推理工具,基于 C/C++ 实现,支持多种 Transformer 架构模型的量化与高效推理。它让你完全自主部署 LLM,无需联网或依赖云服务。适合需要数据隐私保护、离线使用或进行模型试验的开发者与研究者。

主要用途

  • AI工具辅助

适合人群

所有人

支持平台

Web

支持语言

中文英文

数据来源

fmhy

相关 AI 工具

查看更多

Aphrodite Engine 是一个专注于大规模运行语言模型的引擎,支持通过 Kobold 和 OpenAI 兼容 API 提供服务。它能在本地环境或 Colab 中高效部署聊天与文本生成模型,让开发者快速搭建对话式 AI 应用。适合需要自建聊天机器人、实现定制化文本生成服务的开发者或爱好者。

Web免费
所有人学生
LM Studio Logo

LM Studio

AI聊天助手·本地部署·4.5

LM Studio 是一款可在本地电脑上运行和管理大语言模型的桌面应用。它支持在离线环境下加载、切换多种开源模型,并提供直观的对话界面,方便用户无需联网即可进行 AI 交互。适合注重隐私保护、希望在无网络环境使用 AI 的开发者或研究者。

Web免费
所有人
Jan Logo

Jan

AI聊天助手·本地部署·4.5

Jan 是一款开源桌面应用,主打离线运行 AI 大语言模型。它支持本地下载和管理多种开源模型,无需联网即可进行对话,保护用户数据隐私。适合对数据安全要求高、或希望在无网络环境下使用 AI 助手的技术用户、开发者及隐私敏感人群。

Web免费
所有人
LobeHub Logo

LobeHub

AI聊天助手·本地部署·3.0

LobeHub 是一个开源的桌面端 AI 聊天助手,支持接入多种主流大语言模型,如 GPT、Claude 等。用户可以自由切换模型,管理多轮对话,并内置提示词市场。适合日常问答、编程辅助、内容创作等场景,尤其适合需要多模型协同或在本地桌面使用的用户。

Web免费
所有人学生

Locally Uncensored 是一款运行在桌面端的应用程序,专注于在本地环境中加载未经审查的AI模型,确保用户的所有数据处理都在设备上完成,无需联网。它主要面向注重隐私安全、希望避免云端内容过滤或需要离线使用AI工具的用户,适合开发者、隐私爱好者或需要自由探索AI输出的场景。

Web免费
所有人

ChatGPT Exporter 是一个浏览器用户脚本,帮助你快速将 ChatGPT 聊天记录导出为本地文件。它支持一键保存整个对话,方便备份、整理或离线阅读。适合经常使用 ChatGPT 并需要长期留存重要回答,或希望将对话迁移到其他平台进行二次编辑的用户。

Web免费
所有人学生