Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

realnode.png vps-under-title.png 科学上网教程 | 机场推荐 | 云深不知处(机场)

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。

一、项目介绍

希望基于开源LLaMA模型能够发展出繁荣的开发者生态。

Facebook官方示例: llama

C++移植版:llama.cpp

二、本地运行

在本地运行LLaMA模型,基于项目:alpaca.cpp

支持Linux/Windows/Mac,下载地址:Github

三、效果图

screencast.gif
赞(4)
未经允许禁止转载:优米格 » Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

评论 抢沙发

合作&反馈&投稿

商务合作、问题反馈、投稿,欢迎联系

广告合作侵权联系

登录

找回密码

注册

Ads Blocker Image Powered by Code Help Pro

检测到广告已被屏蔽

尊敬的优米格用户,

您好,系统检测到您使用了广告屏蔽组件。本网站并不包含任何侵入性广告,如果本站能给您一点帮助,还请将本站加入拦截白名单,这是我们仅有的收入来源!

网站的持续运作和改进,需要您的慷概帮助,感谢您的支持。

此致,
优米格 团队