重磅｜ Falcon 180B 正式在 Hugging Face Hub 上发布！
我们很高兴地宣布由 Technology Innovation Institute (TII) 训练的开源大模型 Falcon 180B 登陆 Hugging Face！ Falcon 180B 为开源大模型树立了全新的标杆。作为 ......![]()
大模型微调技术LoRA与QLoRA
LoRA: Low-Rank Adaptation of Large Language Models 大模型的参数量都在100B级别，由于算力的吃紧，在这个基础上进行所有参数的微调变得不可能。LoRA正是在这个 ......![]()
chatglm2-6b模型在9n-triton中部署并集成至langchain实践
一.前言 近期， ChatGLM-6B 的第二代版本ChatGLM2-6B已经正式发布，引入了如下新特性： ①. 基座模型升级，性能更强大，在中文C-Eval榜单中，以51.7分位列第6； ②. 支持8 ......![]()
A100 Tensor核心可加速HPC
A100 Tensor核心可加速HPC HPC应用程序的性能需求正在迅速增长。众多科学研究领域的许多应用程序都依赖于双精度（FP64）计算。 为了满足HPC计算快速增长的计算需求，A ......![]()
解密Prompt系列6. lora指令微调扣细节-请冷静,1个小时真不够~
上一章介绍了如何基于APE+SELF自动化构建指令微调样本。这一章咱就把微调跑起来，主要介绍以Lora为首的低参数微调原理，环境配置，微调代码，以及大模型训练中显存和 ......![]()
人工智能训练云燧T10
人工智能训练云燧T10 基于邃思芯片打造的面向云端数据中心的人工智能训练加速产品，具有高性能、通用性强、生态开放等优势，可广泛应用于互联网、金融、教育、医疗、工业 ......![]()
优化故事: BLOOM 模型推理
经过“九九八十一难”，大模型终于炼成。下一步就是架设服务，准备开门营业了。真这么简单？恐怕未必！行百里者半九十，推理优化又是新的雄关漫道。如何进行延迟优化？如何 ......![]()
GPT大语言模型Vicuna本地化部署实践（效果秒杀Alpaca）
上一篇文章《GPT大语言模型Alpaca-lora本地化部署实践》介绍了斯坦福大学的Alpaca-lora模型的本地化部署，并验证了实际的推理效果。 总体感觉其实并不是特别理想，原 ......font-face 用fontsquirrel把ttf文件获取别的文件格式
font-face是css3的一个模块，但是@font-face这个功能早在IE4就支持了，他主要是把自己定义的Web字体嵌入到你的网页中， @font-face { font-family: <You ......![]()
↓ 按住下拉
V2AS = Way To Ask
V2AS 一个技术分享与创造的静土
手机扫一扫
移动阅读更方便
近15日热搜文章