使用Triton部署chatglm2-6b模型
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/L ......![]()
Haproxy解析
简单介绍 HAProxy是一款提供高可用性、负载均衡以及基于TCP和HTTP应用的代理软件，HAProxy是全然免费的、借助HAProxy能够高速而且可靠的提供基于TCP和HTTP应用的代 ......[apue] 进程环境那些事儿
众所周知，main 函数为 unix like 系统上可执行文件的"入口"，然而这个入口并不是指链接器设置的程序起始地址，后者通常是一个启动例程，它从内核取得命令行参数和环 ......![]()
JVM性能监控和调优
JVM性能监控和调优 JVM（Java虚拟机）调优是为了优化Java应用程序的性能和稳定性。JVM调优的目的是通过调整JVM的配置参数和优化应用程序代码，使其在给定的硬件和软 ......![]()
Nginx_配置文件nginx.conf配置详解
user nginx nginx ; Nginx用户及组：用户 组。window下不指定 worker_processes 8; 工作进程：数目。根据硬件调整，通常等于CPU数量或者2倍于CPU。 erro ......命令行部署KingbaseES流复制+切换测试
建立系统数据库安装用户组及用户，在所有的节点执行 root用户登陆服务器，创建用户组及用户并且设置密码 groupadd -g 2000 kingbase useradd -G kingbase -g 2000 ......日志收集工具 Fluentd 使用教程
转载自：https://mp.weixin.qq.com/s?__biz=MzU4MjQ0MTU4Ng==&mid=2247499829&idx=1&sn=1f92daa88df5125f146d8a4cf802f690&chksm=fdbacf28cacd463ea3ca822e9a97c7 ......![]()
shell 编程 && bash 简介(shell 变量、shell操作环境、数据流重导向、管线命令、shell script)
数据类型 运算符 关键字 linux是操作系统核心，用户通过shell与核心进行沟通，达到我们想要的目的。硬件、核心、用户之间的关系： 原理：所谓Shell程序，实际上是提供 ......![]()
redis 5.0.5集群部署与服务器宕机故障模拟
背景 业务稳定性要求需要一套redis集群来保障 因此采用 redis cluster 集群 环境 名称 ip地址 cpu 内存 master端口 slave端口 redis-651 10.65.6.51 4c ......![]()
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章