cuDNN概述
cuDNN概述 NVIDIACUDA深度神经网络库（cuDNN）是GPU加速的用于深度神经网络的原语库。cuDNN为标准例程提供了高度优化的实现，例如向前和向后卷积，池化，规范化和激活 ......![]()
将Tensor核心引入标准Fortran
将Tensor核心引入标准Fortran 调优的数学库是从HPC系统提取最终性能的一种简单而可靠的方法。但是，对于寿命长的应用程序或需要在各种平台上运行的应用程序，为每个 ......![]()
A100 Tensor核心可加速HPC
A100 Tensor核心可加速HPC HPC应用程序的性能需求正在迅速增长。众多科学研究领域的许多应用程序都依赖于双精度（FP64）计算。 为了满足HPC计算快速增长的计算需求，A ......![]()
解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~
上一章介绍了如何基于APE+SELF自动化构建指令微调样本。这一章咱就把微调跑起来，主要介绍以Lora为首的低参数微调原理，环境配置，微调代码，以及大模型训练中显存和 ......![]()
GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca）
上一篇文章《GPT大语言模型Alpaca-lora本地化部署实践》介绍了斯坦福大学的Alpaca-lora模型的本地化部署，并验证了实际的推理效果。 总体感觉其实并不是特别理想，原 ......软件安装——internal error2503/2502
安装新的软件后先报internal error 2503，随后报internal error 2502。就是不让我装新的软件，提示说发生严重错误，然后安装失败。 Solution for internal error 2503 ......大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes
语言模型一直在变大。截至撰写本文时，PaLM 有 5400 亿参数，OPT、GPT-3 和 BLOOM 有大约 1760 亿参数，而且我们仍在继续朝着更大的模型发展。下图总结了最近的一些语 ......![]()
AI解决方案：边缘计算和GPU加速平台
AI解决方案：边缘计算和GPU加速平台 一．适用于边缘 AI 的解决方案 AI 在边缘蓬勃发展。AI 和云原生应用程序、物联网及其数十亿的传感器以及 5G 网络现已使得在边缘 ......![]()
NVIDIA Tensor Cores解析
NVIDIA Tensor Cores解析 高性能计算机和人工智能前所未有的加速 Tensor Cores支持混合精度计算，动态调整计算以加快吞吐量，同时保持精度。最新一代将这些加速功能 ......![]()
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章