chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
一、项目介绍
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
二、本地运行
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
三、效果图

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
最新评论
小米手机现在是收不到,被拦截了
2.0有两个版本,区别是什么?
什么格式,用加https不
订阅域名单独出来咋设置,大佬们问一下,解析一个域名到后端ip设置填写一下就行了吗?