使用Triton部署chatglm2-6b模型
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/L ......![]()
让你的shell更体贴
使用shell的时候很多，特别是拉幕式终端，使用时更加方便，同时可以利用 echo "Did you know that:" ;whatis $(ls /bin | shuf -n 1) 代码添加到你的home目录下的 . ......iOS越狱后必装软件
iOS越狱后就跟ubuntu没两样了，很多ubuntu下常用的软件都要装一下 openssh 这个软件可以让我们能够登录iphone Apt-get 用这个软件可以安装很多软件，主要是一些工 ......前端学习C语言 - 初级指针
本篇主要介绍：指针和变量的关系、指针类型、指针的运算符、空指针和野指针、指针和数组、指针和字符串、const 和指针、以及gdb 调试段错误。 基础概念 指针是一种特殊的 ......纯干货！一文get昇腾Ascend C编程入门全部知识点
本文分享自华为云社区《昇腾Ascend C编程入门教程》，作者：昇腾CANN 。 2023年5月6日，在昇腾AI开发者峰会上，华为正式发布了面向算子开发场景的昇腾Ascend C编程语言。 ......![]()
Ascend C保姆级教程：我的第一份Ascend C代码
本文分享自华为云社区《Ascend C保姆级教程：我的第一份Ascend C代码》，作者：昇腾CANN 。 Ascend C是昇腾AI异构计算架构CANN针对算子开发场景推出的编程语言，原生支 ......![]()
MIT 6.828 Lab实验记录 —— lab1 Booting PC
MIT 6.828 lab1 讲义地址 MIT 6.828 课程 Schedule MIT 6.828 lab 环境搭建参考 MIT 6.828 lab 工具guide Brennan's Guide to Inline Assembly 笔者实验环境：ub ......![]()
Win10自定义路径位置安装WSL2 (Ubuntu 20.04) 并配置CUDA
目录 C盘默认位置安装Ubuntu 自定义位置安装Ubuntu 确保安装程序已经下载 打开微软商店应用默认安装目录 找到Ubuntu安装包的默认下载位置 复制安装包和相 ......![]()
记一次Native memory leak排查过程
路由计算服务是路由系统的核心服务，负责运单路由计划的计算以及实操与计划的匹配。在运维过程中，发现在长期不重启的情况下，有TP99缓慢爬坡的现象。此外，在每周例行 ......
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章