想在本地部署一个自用的AI 有没有大佬能指个路

ovovovo · 发表于昨天 01:51

您需要登录才可以下载或查看，没有帐号？免费注册

x

平时工作原因，接触很多表格数据，时间跨度也很大，想搞一个本地自用的AI模型，比如某个时间点的数，直接问出来；还想把自己之前写过的稿子一块喂进去，炼化自己，再碰到相似稿子需求的时候，AI可以写一份带着自己风格的。就想做这样本地AI，苦于找不到方法

18438655273 · 发表于昨天 10:11

DeepSeek，可以本地安装，断网运行

alive448 · 发表于昨天 19:16

本地的话一般是qwen系列吧，如果API的话可以选DeepSeek

block25 · 发表于昨天 23:38

装个WorkBuddy算了，现在硬件这么贵，20以上显存的卡加64g的内存你看看多少钱，内存显存小部署个弱智模型没意义啊

ovovovo · 发表于 15 小时前

感谢大佬们支招

atoshdustosh · 发表于 1 小时前

我也想搞来着, 但是想想不太值.
花钱买个显卡都够我用好几年的 GPT pro 了.
就算不用付费模型, 现在也有大把的免费模型可以薅羊毛, 完全不需要自己部署, 除非要自己搞agent框架搞专业工作站, 但是日常用用, 薅羊毛的模型就已经足够了

[学习讨论] 想在本地部署一个自用的AI 有没有大佬能指个路