chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
一、项目介绍
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
二、本地运行
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
三、效果图

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
最新评论
可以分享一下给我吗
叫什么名字呀
大哥教一下,我怎么进不去网站呢
优米各,萌宠日常都用不了呢,好像被和谐了,可以提供一下它们新的伪装软件吗?谢谢!