V2AS
问路
意见反馈
↓ 按住下拉
安卓机上 4G 内存跑 alpaca,欢迎试用轻量级 LLM 模型推理框架
InferLLM
从 LLM 火爆以来,社区已经出现了非常多优秀的模型,当然他们最大的特点就是体积大,最近为了让大模型可以在更低端的设备上运行,社区做了非常多的工作, gptq 实现了 ......
内存
模型
32
InferLLM
llama
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章
Paxos协议超级详细解释+简单实例
winds dlib人脸检测与识别库
在 Android studio 中 配置Gradle 进行 “动态编译期间,指定 远程服务器地址 ,生成多个安装包”
4
Docker 创建 Bamboo6.7.1 以及与 Crowd3.3.2 实现 SSO 单点登录
5
C# 检测某版本VC++是否安装
6
std::sort为什么保证严格弱序?
7
HandlerThread详解
8
一次 RocketMQ 进程自动退出排查经验分享(实战篇)
9
浅析mydumper
10
C# 将PDF转为Excel