使用 AutoGPTQ 和 transformers 让大语言模型更轻量化
大语言模型在理解和生成人类水平的文字方面所展现出的非凡能力，正在许多领域带来应用上的革新。然而，在消费级硬件上训练和部署大语言模型的需求也变得越来越难以 ......Intel® QAT 加速卡之IPSec示例
文章目录 Intel QAT 加速卡之IPSec示例 1. QAT处理IPSec入站报文 2. QAT处理IPSec出站报文 3. 组织架构 4. 示例源码 在IPSec的使用过程中需要频繁的加解密操作， ......![]()
Pytorch模型量化
在深度学习中，量化指的是使用更少的bit来存储原本以浮点数存储的tensor，以及使用更少的bit来完成原本以浮点数完成的计算。这么做的好处主要有如下几点： 更少的模 ......![]()
Intel® QAT加速卡之逻辑实例
Intel QAT加速卡逻辑实例 在本手册中描述的平台上，处理器可以连接到一个或多个英特尔通信芯片组8925至8955系列（PCH）设备。 从软件角度来看，每个PCH设备都包含一 ......![]()
Intel® QAT加速卡之Ring & Ring Bank
Intel 通讯系列芯片对于每种受支持的加速服务（加密，数据压缩），都支持以下应用模式： 内核模式，其中应用程序和加速服务都在内核中运行空间。 用户空间直接访问在用 ......![]()
【软件安装】CentOS7安装Tengine_2_3_2(Nginx 1_17_0)
背景 使用最新的软件，可以处理一些bug，文章对CentOS6不做介绍（不会用） 推荐使用Tengine,理由是淘宝再用，兼容 Nginx 可以随时切换 Github: Tengine: 【Star：9.2K ......Intel® QAT加速卡之编程demo框架
QAT demo流程框架 示例一： 代码路径：qat1.5.l.1.13.0-19\quickassist\lookaside\access_layer\src\sample_code\functional\sym\cipher_sample |-->cpa_cipher_s ......Intel® QAT加速卡之加密、哈希操作流程和示例
文章主要讲述了Intel QAT 加密API接口的说明，以及多种应用场景下的使用方法。 文章目录 Intel QAT 加密API介绍 1. 概述 1.1 会话(session) 1.2 优先级 2. 对称加 ......Intel® QAT加速卡之性能简介
支持英特尔QuickAssist技术的英特尔QuickAssist适配器提供加密加速和压缩加速服务。 1. Key features Intel 的QAT技术支持IPsec， SSL协议的加解密加速和数据压缩 ......![]()
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章