HuggingChat 是一款 Hugging Face 发布的聊天机器人，很像 ChatGPT，内置了开源大语言模型。最近发布了 macOS 客户端，非常初始版本，可以直接在桌面上进行对话。@Appinn

Hugging Face 是什么？

Hugging Face 是一个托管了多种预训练模型（包括大语言模型）的平台/社区，用户可以使用和部署这些模型、创建 AI 应用，而无需深厚的技术背景。并且提供从模型托管、开发工具到在线部署的全流程支持，简化了 AI 技术的应用。

HuggingChat 是什么？

HuggingChat 长得像 ChatGPT，用起来也差不多，目前的 macOS 客户端非常基础，不过仅有 6.87 MB 大小。

提供一个快捷键进行呼出提问，并且直接在屏幕上显示内容。内置了几款模型：

目前并不支持自定义，需要登录 Hugging Face 账号。

获取

• GitHub
• 目前并没有提供源码

---

原文：https://www.appinn.com/huggingchat-mac/

---

相关阅读

• 618 正版软件大促 5 折起，80+ 款软件特价，51 款历史低价
• 34 个大类，超过 400 个「macOS 绝赞开源应用」列表
• 数码荔枝 618 第一波优惠[正版软件]
• Parallels Desktop 16.5 for Mac 正式发布，原生支持 M1 和 Intel 芯片，在 Mac 上以原生速度运行 Windows 10，限时 9 折优惠
• 数码荔枝正版四月惠：MarginNote / BookxNote / 白描等 20+ 正版软件优惠啦

---

©2023 青小蛙 for 小众软件 | 加入我们 | 投稿 | 订阅指南
3659b075e72a5b7b1b87ea74aa7932ff
点击这里留言、和原作者一起评论

[ 点击前往获取链接 ]

---

AnythingLLM 是一款可以在本地电脑一件运行 LLM 大语言模型的跨平台桌面客户端，支持 Windows、macOS、Linux，支持自选模型，也可以从软件内下载模型。它还支持嵌入模型、语音、转录，最重要的是可以实现完全离线，不依托任何云服务。@Appinn

在《LM Studio – 有电脑就能用，傻瓜、一站式部署本地大语言模型｜然后，像 ChatGPT 那样提问》中，@路人甲乙丙 留言回复称：

这款其实不算傻瓜，AnythingLLM 才是，多平台，单文件安装。模型下载内部选，集成了 Ollama，支持中文界面。

Ollama 官网推荐的 Win 平台下全都试了，论便利首选 AnythingLLM，可 Github 或官网下载，全免费。

---

AnythingLLM

与 LM Studio 类似，AnythingLLM 也是一款适合在自己电脑里部署 LLM 的工具，但功能更丰富一些，比如在 AnythingLLM 的嵌入首选项中，你可以选择 LM Studio 作为嵌入引擎提供商。

只需要在 LM Studio 打开 Server，AnythingLLM 就会自动识别：

对了，我在 AnythingLLM 中，导入了之前测试 LM Studio 的时候下载的模型。很方便。

来看一下开发者提供的视频：

安装之后，AnythingLLM 回来一波对话，给你介绍如何使用：

设置模型

你需要为 AnythingLLM 设置模型，包括首选模型、向量数据库、嵌入模型、语音、转录模型。

默认情况下，AnythingLLM 自带了模型，不过也可以根据需要自己下载模型：

上图中 Official Models 里就有很多模型，下载速度还有点快，也是很奇怪。

在工作区中，可以上传文件，这样这些文件就变成了你的向量数据库，相当于对着文档提问。

但青小蛙使用内置的模型测试，发现似乎效果很不好，答非所问，也不知道它在想什么。

还是说，模型选择有问题。

青小蛙觉得，对比在线大语言模型，即开即问、上传文档直接问，本地的大语言模型在使用门槛上存在至少有1个小时的入门学习时间。虽然 AnythingLLM 已经把安装门槛降低到了0，但是模型的选择使用是个很大的槛，就看各位是否愿意继续深入研究了。

获取

• 官网

---

原文：https://www.appinn.com/anythingllm/

---

©2023 青小蛙 for 小众软件 | 加入我们 | 投稿 | 订阅指南
3659b075e72a5b7b1b87ea74aa7932ff
点击这里留言、和原作者一起评论

[ 点击前往获取链接 ]

---

LM Studio 是一款将目前主流大模型 LLM 元素打包在一起​的工具，可以让你在自己的电脑上，“0门槛”运行本地大语言模型 LLM，并且用起来就像 ChatGPT 那样。支持 Windows、macOS、Linux。@Appinn​

傻瓜、一站式部署本地大语言模型，大概就是打开电脑 > 双击运行程序 > 开始提问 > 获得 AI 回答这样三步走。

LM Studio

我觉得 LM Studio 就是这样的软件，它长这样：

你唯一需要操心的事情，就是挑选模型，然后下载使用，就好了。

不过整个软件的难点也在这里，因为…目前的主流模型托管网站 huggingface 它不能访问

于是，用镜像也不是不行。

下载模型

直接在目前可用的镜像网站 HF-Mirror 搜索你需要的模型，比如 Meta-Llama-3.1-8B-Instruct-GGUF，然后找到对应的 Files 页面，挑选你需要的模型，点击那个下载按钮

最终，你将得到一个类似 Meta-Llama-3.1-8B-Instruct-Q4_K_M.gguf 的文件，很大，一般都好几个 GB。

安装模型

LM Studio 默认的模型保存路径在 C:\Users\appinn.cache\lm-studio\models，可以更换：

不过这里注意，你需要使用 ${Publisher}/${Repository}/${ModelFile}这样的路径结构，如上图第二个红色框框，需要将手动下载的 .gguf 模型文件保存在路径的两级文件夹下才能正确识别。

然后，就能提问了。会自动使用你的 CPU、GPU…

本地 LLM 服务器

LM Studio 也支持 OpenAI 类的服务器，即可以在第三方服务器上使用这个 LLM，就像使用 OpenAI API 一样，只不过这里的 API 服务器是你自己的。

和 OpenAI 一样，使用过 /v1/chat/completions 、 /v1/completions 、 /v1/embeddings 即可。

获取

• 官网

---

原文：https://www.appinn.com/lm-studio/

---

相关阅读

• New Tab Studio – 可高度自定义的新标签页扩展[Chrome]
• Google Earth Studio 初体验，10分钟创建漂亮的地球视频素材
• Google Earth Studio – Google 官方发布用「卫星图像」制作动画视频工具
• SQLite Studio – 一个开源的网页版 SQLite 数据库浏览器
• 制作 Google Earth Studio 大片不求人，自己就能图片转视频

---

©2023 青小蛙 for 小众软件 | 加入我们 | 投稿 | 订阅指南
3659b075e72a5b7b1b87ea74aa7932ff
点击这里留言、和原作者一起评论

[ 点击前往获取链接 ]

---