使用Triton部署chatglm2-6b模型
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/L ......![]()
chatglm2-6b在P40上做LORA微调
背景： 目前，大模型的技术应用已经遍地开花。最快的应用方式无非是利用自有垂直领域的数据进行模型微调。chatglm2-6b在国内开源的大模型上，效果比较突出。本文章分享 ......![]()
torch-1 tensor & optim
开个新坑, pytorch源码阅读…从python代码开始读起. torch/ 1.tensor.py 继承自torch._C._TensorBase , 包括各种操作,TODO:随后看cpp代码 __abs__, __iter__之类 ......从隐私保护到AI隐私保护：隐私隐私保护的跨隐私保护治理框架实践案例
目录 标题：《从隐私保护到AI隐私保护：跨隐私保护治理框架实践案例》 背景介绍 随着人工智能技术的广泛应用，隐私保护问题也日益突出。数据隐私泄露、算法歧视等问题 ......使用 Transformers 为多语种语音识别任务微调 Whisper 模型
本文提供了一个使用 Hugging Face Transformers 在任意多语种语音识别 (ASR) 数据集上微调 Whisper 的分步指南。同时，我们还深入解释了 Whisper 模型、Common Voi ......![]()
基于bert-base-chinese训练bert模型（最后附上整体代码）
目录： 一、bert-base-chinese模型下载 二、数据集的介绍 三、完成类的代码 四、写训练方法 五、总源码及源码参考出处 一、bert-base-chinese模型下载 对于 ......![]()
Win10自定义路径位置安装WSL2 (Ubuntu 20.04) 并配置CUDA
目录 C盘默认位置安装Ubuntu 自定义位置安装Ubuntu 确保安装程序已经下载 打开微软商店应用默认安装目录 找到Ubuntu安装包的默认下载位置 复制安装包和相 ......![]()
Python潮流周刊7：我讨厌用 asyncio
你好，我是猫哥。这里记录每周值得分享的 Python 及通用技术内容，部分为英文，已在小标题注明。（标题取自其中一则分享，不代表全部内容都是该主题，特此声明。） 首发于 ......![]()
TheTransformerPlaybookforNLPandLanguageUnderstanding
目录 2.1 基本概念解释 2.2 技术原理介绍 2.3 相关技术比较 3. 实现步骤与流程 3.1 准备工作：环境配置与依赖安装 3.1.1 准备工作：环境配置与依赖安装 3.1.2 核心 ......
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章