使用Triton部署chatglm2-6b模型
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/L ......![]()
VS Code 调试 OneFlow
VS Code 调试 OneFlow 本文介绍如何配置 VS Code，搭建 OneFlow 的 GUI 开发环境。 如果对于 VS Code 及其插件系统还不熟悉，可以参阅官方文档。 本文包括： 如何编译 ......![]()
Xmake v2.7.6 发布，新增 Verilog 和 C++ Modules 分发支持
Xmake 是一个基于 Lua 的轻量级跨平台构建工具。 它非常的轻量，没有任何依赖，因为它内置了 Lua 运行时。 它使用 xmake.lua 维护项目构建，相比 makefile/CMakeLists ......![]()
NeoVim 学习笔记
NeoVim 学习笔记 这篇学习笔记将用于记录本人在学习使用 NeoVim 编辑器过程中所编写的学习心得与代码。该笔记将会存放在https://github.com/owlman/study_note项 ......![]()
C++ 核心指南之 C++ P.哲学/基本理念（上）
C++ 核心指南（C++ Core Guidelines）是由 Bjarne Stroustrup、Herb Sutter 等顶尖 C+ 专家创建的一份 C++ 指南、规则及最佳实践。旨在帮助大家正确、高效地使用“现代 ......探讨Service Mesh中一种更高效的代理模式
背景和想法 Service Mesh 提供了微服务化开发的新思路，核心思想是构建一个代理转发网络并结合控制和转发分离的做法来对成千上万个微服务间做流量、策略、安全等管 ......![]()
C++的编译链接与在vs中build提速
通过gcc或msvc，clang等编译器编译出来的C++源文件是.o文件。在windows上也就是PE文件，linux为ELF文件，在这一步中，调用其它代码文件中的函数的函数地址是未知的(00 ......![]()
《代码整洁之道 Clean Code》学习笔记 Part 1
前段时间在看《架构整洁之道》，里面提到了：构建一个好的软件系统，应该从写整洁代码做起。毕竟，如果建筑使用的砖头质量不佳，再好的架构也无法造就高质量的建筑。趁热 ......![]()
C++'s most vexing parse
本文地址 https://www.cnblogs.com/wanger-sjtu/p/16876846.html C++'s most vexing parse 是 Scott Meyers 在其名著《Effective STL》中创造的一个术语。Scott 用 ......
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章