ubuntu 16.04 安装 tensorflow-gpu 包括 CUDA ,CUDNN,CONDA
ubuntu 16.04 安装 tensorflow-gpu 包括 CUDA ,CUDNN,CONDA 显卡驱动装好了，如图： 英文原文链接： https://github.com/williamFalcon/tensorflow-gpu-install-ub ......![]()
使用Triton部署chatglm2-6b模型
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/L ......![]()
【pytorch】目标检测：一文搞懂如何利用kaggle训练yolov5模型
笔者的运行环境：python3.8+pytorch2.0.1+pycharm+kaggle。yolov5对python和pytorch版本是有要求的，python>=3.8，pytorch>=1.6。yolov5共有5种类型n\s\l\m\x，参数量 ......![]()
chatglm2-6b模型在9n-triton中部署并集成至langchain实践
一.前言 近期， ChatGLM-6B 的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性： ①. 基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6； ②. 支持8 ......![]()
《CUDA编程：基础与实践》读书笔记(1)：CUDA编程基础
GPU与CPU的主要区别在于： CPU拥有少数几个快速的计算核心，而GPU拥有成百上千个不那么快速的计算核心。 CPU中有更多的晶体管用于数据缓存和流程控制，而GPU中有更多 ......基于Pair-wise和CrossEncoder训练单塔模型
本文分享自华为云社区《语义检索系统排序模块：基于ERNIE-Gram的Pair-wise和基于RocketQA的CrossEncoder训练单塔模型》，作者： 汀丶。 文本匹配任务数据每一个样本通 ......![]()
如何用WebGPU流畅渲染百万级2D物体？
大家好~本文使用WebGPU和光线追踪算法，从0开始实现和逐步优化Demo，展示了从渲染500个2D物体都吃力到流畅渲染4百万个2D物体的优化过程和思路 目录 需求 成果 1、 ......![]()
DeepSpeed Chat: 一键式RLHF训练，让你的类ChatGPT千亿大模型提速省钱15倍
DeepSpeed Chat: 一键式RLHF训练，让你的类ChatGPT千亿大模型提速省钱15倍 1. 概述 近日来，ChatGPT及类似模型引发了人工智能（AI）领域的一场风潮。 这场风潮对数字 ......![]()
NVIDIA DRIVE AGX开发工具包
NVIDIA DRIVE AGX开发工具包 英伟达drive AGX开发工具包提供了开发生产级自主车辆（AV）所需的硬件、软件和示例应用程序。NVIDIA DRIVE AGX系统建立在汽车产品级芯片 ......![]()
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章