Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

hutuyun-ad-banner.png ai-qy.gif

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。

一、项目介绍

希望基于开源LLaMA模型能够发展出繁荣的开发者生态。

Facebook官方示例: llama

C++移植版:llama.cpp

二、本地运行

在本地运行LLaMA模型,基于项目:alpaca.cpp

支持Linux/Windows/Mac,下载地址:Github

三、效果图

screencast.gif
赞(5)
未经允许禁止转载:优米格 » Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

评论 抢沙发

合作&反馈&投稿

商务合作、问题反馈、投稿,欢迎联系

广告合作侵权联系