Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

photo_2023-11-07_20-06-07.jpg 科学上网教程 | 机场推荐 | 本站商务合作

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。

一、项目介绍

希望基于开源LLaMA模型能够发展出繁荣的开发者生态。

Facebook官方示例: llama

C++移植版:llama.cpp

二、本地运行

在本地运行LLaMA模型,基于项目:alpaca.cpp

支持Linux/Windows/Mac,下载地址:Github

三、效果图

screencast.gif
赞(4)
未经允许禁止转载:优米格 » Facebook LLaMA模型使用: 在本地运行一个类chatGPT模型

评论 抢沙发

合作&反馈&投稿

商务合作、问题反馈、投稿,欢迎联系

广告合作侵权联系

登录

找回密码

注册

Ads Blocker Image Powered by Code Help Pro

检测到广告已被屏蔽

您好,系统检测到您使用了广告屏蔽组件。

本网站并不包含任何侵入性广告,我们提供免费的内容,但是需要广告收入来维持运营,还请将本站加入拦截白名单!