当前位置:首页 > 电脑问答 > 正文内容

如何轻松离线部署 DeepSeek?新手极简教程+模型推荐

seoxyz3周前 (06-16)电脑问答18
想要在本地部署 DeepSeek 的模型,之前给大家分享用 LM StudioOllama 等工具,不过对于一些新手小白来说还是比较麻烦。今天给大家推荐这款「Jan」开源的本地AI模型运行工具,支持在 Windows、macOS、Linux系统上离线部署和运行大语言模型,例如:LLaMA、Mistral、DeepSeek 等。

图片

使用介绍

虽然「Jan」目前没有提供中文语言界面,但是使用很简单,点开下载模型的界面,搜索 DeepSeek,可以看到会显示 1.5B、7B、14B、32B、70B 各种量化版本。根据你的电脑硬件和需求下载模型,例如 16GB+ 内存可以选择 7B/8B 版本、32GB+ 内存选择 14B 版本。

选择好后,会从 Hugging Face 进行下载模型,下载好后直接点击 USE 进行使用。

图片

返回聊天界面,选择你刚才下载的模式即可使用。功能方面支持设置:Max Tokens、Temperature、Context Length、Number of GPU layers (ngl) 等,根据情况来设置即可。不知道参数啥意思的,自己搜索下。


图片

如果你的显卡给力的话,还可以在设置里面的,硬件- 开始通过利用设备的 GPU 进行加速来提高模型性能。

图片
部署好的本地模型,你也开启 API 服务,以让其它电脑访问使用。如果是个人用不建议开启,避免有泄露风险。
图片
除了本地部署 AI 模型外,还支持远程 API 接口模型,目前提供包括有:Anthropic、Cohere、Deepseek、GoogleGroq、Martian、Mistral、Nvidia、OpenAl、OpenRouter。
选择你要用的模型,然后填写 API Key,以及在高级选项里面还提供了模型列表URL、请求格式转换、响应格式转换等选项。
图片

总结

这款「Jan」支持多种主流的 AI 模型,本地部署非常简单,具有可扩展性,可以根据自己的需求进行定制和扩展。唯一缺点就是暂时没有简体中文语言。


另外更多支持 DeepSeek 的 AI 模型客户端,可以到 DeepSeek 导航网查看:


访问地址:

https://deepseek404.com/favorites/deepseek-llm/

图片



下载地址


  • 官方网站:
    https://jan.ai/

  • 网盘下载:

    https://pan.quark.cn/s/80af071496cc


相关文章

win10系统任务栏日期消失解决办法,快来看看

win10系统任务栏日期消失解决办法,快来看看

  电脑任务栏通常在左侧放常用软件和“开始菜单”等系统设置,右侧显示时间日期和通知消息,方便查看。可最近有小伙伴跟我说,他电脑任务栏不显示日期了,这可怎么办呢?别着急,今天小编就来教大家解决这个问题。...

2025超稳Win8永久激活工具+密钥合集

2025超稳Win8永久激活工具+密钥合集

『2025超稳Win8永久激活工具+密钥合集』作为十年电脑行业老炮儿,我见过太多人对着Win8激活界面抓狂——密钥失效、工具报毒、KMS抽风,简直血压飙升!今天直接甩出压箱底方案,结合2025年实测可...

Win7游戏无法全屏?三招通用解法+显卡专属设置教程

Win7游戏无法全屏?三招通用解法+显卡专属设置教程

win7的页面相对xp而言可以说非常炫,但是令很多游戏玩家头疼的是,很多游戏在win7系统里面不能全屏,今天学习啦小编就和大家分享下,win7游戏不能全屏的解决方法,欢迎大家参考和学习。  通用方法-...

传统广域网升级困难?SD-WAN五大优势替代传统WAN实战解析

传统广域网升级困难?SD-WAN五大优势替代传统WAN实战解析

01传统广域网(WAN)传统网络完全基于硬件网络设备,主要依靠多协议标签交换(MPLS)来实现弹性和高效的网络流量。许多硬件设备与专有电路一起安装,以将IP服务路由到其目标客户。IT团队付出了很多努力...

电脑微信如何多开?一键批处理脚本制作教程

电脑微信如何多开?一键批处理脚本制作教程

电脑端同时登录多个微信的方法众所周知,电脑端微信通常情况下只能登录一个,当登录了一个微信后,要想再登录另一个微信,再次双击微信图标并不能打开第二个微信登录界面。但如果你手速够快,在没有登录任何微信的前...

电脑依赖服务启动错误的解决教程,依赖组无法启动怎么办

电脑依赖服务启动错误的解决教程,依赖组无法启动怎么办

  用电脑时,突然弹出Windows不能启动worldwidewebpublishingservice的提示,还带个错误代码1068,说依赖服务或组启动不了,是不是特让人头大?别急,我最近找到了解决办...