大数跨境

在本地计算机中安装 DeepSeek

在本地计算机中安装 DeepSeek 索引目录
2025-02-02
2

DeepSeek,DeepSeek,DeepSeek……最近。它是开源的,我想我们可以试试。我看到该模型有 1.5B 版本,效率不是很高,但我们可以尝试一下(我没有 GPU 来运行 671B )。让我们在我的桌面上安装 1.5b 版本。

在安装之前,我想介绍一款名为OLLAMA的产品,它是一款可以在本地系统甚至服务器中运行任何开源大型语言模型的软件。有一些替代产品可以完成同样的工作,但 ollama 的设置非常简单,使用起来也非常简单。

设置 Ollama

这是一个简单的过程,只需访问https://ollama.com/并下载即可,它适用于 Mac、Linux 和 Windows,继续下载并安装它。





安装完成后,通过在终端中运行命令来验证是否已正确安装

ollama --version




可以看到,我们的Ollama安装成功了。

安装DeepSeek:

Deepseek 有从 1.5B 到 671B 的各种模型版本,你可以在此处查看可用模型列表

要在本地机器上安装 DeepSeek,请打开终端并运行以下命令

ollama run deepseek-r1:1.5b

这将提取 deepseek 模型文件并运行该模型




就这样,它现在已安装在我们的本地系统中




额外提示

目前一切看起来都很好。但使用终端有点无聊。如果我们有 chatgpt 类型的用户界面,那看起来会很酷,对吧?我懂了。OpenWebUI 有一个开源存储库可以满足我们的需求,那么我们为什么不能使用它呢?让我们安装它。

如果您已经安装了 docker,这是一个直接的方法。

docker pull ghcr.io/open-webui/open-webui:main
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

如果你没有安装docker,不用担心,他们将其发布为pip包,但请确保你安装了python 3.11。你可以运行以下命令来安装webui

pip install open-webui

安装完成后,你可以使用以下命令运行 Web 应用

open-webui serve




现在我们的 Chatgpt 类 webapp 已准备就绪,
打开http://localhost:8080它将提示注册。注册完成后,您可以看到类似 Chatgpt 的 UI




现在我们可以玩它了




【声明】内容源于网络
0
0
索引目录
索引目录是一家专注于医疗、技术开发、物联网应用等领域的创新型公司。我们致力于为客户提供高质量的服务和解决方案,推动技术与行业发展。
内容 444
粉丝 0
索引目录 索引目录是一家专注于医疗、技术开发、物联网应用等领域的创新型公司。我们致力于为客户提供高质量的服务和解决方案,推动技术与行业发展。
总阅读12
粉丝0
内容444