chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
一、项目介绍
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
二、本地运行
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
三、效果图
![screencast.gif](https://img.snailshub.com/images/2023/03/21/screencast.gif)
chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
最新评论
没有磁力吗
不行,这个版本4K还是限速~
搞笑了,官网打不开的机场,检验倒数到0直接卡死了
都是ip6的,有ip4的吗?老电视不支持ip6