艺术宣传共1565篇
排序
GPU和CPU如何混合训练 大模型训练的GPU联手CPU显存优化剖析方法
假设经常使用fluid.CUDAPlace指定了全局的运转设施，飞桨将会智能把允许GPU计算的OP调配在GPU上口头，但是当模型参数量过大并且显存有限时，很或许会遇到显存超出的状况，如上方的示例代码，embedding层的参数size蕴含两......
LMDeploy vLLM MLC AI架构系列
训练大型言语模型以及微调的教程亘古未有，但关于在消费环境中部署它们并监控其优惠的资料相对稀缺，上章节提到了未来云原生的AI是趋向，但是触及到云原生会比拟偏技术，而在此之前为了处置大模型部署量产的疑问，社区也不时在探求，目前已有不少工具可用于......
巨无霸 让大模型不再 这是一份最新的大模型参数高效微调综述
近期，大言语模型、文生图模型等大规模AI模型迅猛开展，在这种情势下，如何顺应瞬息万变的需求，极速适配大模型至各类下游义务，成为了一个关键的应战，受限于计算资源，传统的全参数微调方法或者会显得力所能及，因此须要探求更高效的微调战略，上述应战催......
探求Text 大模型与数据剖析
当今大模型如此炽热，作为一名数据同窗，继续在关注LLM是如何运行在数据剖析中的，也关注到很多公司推出了AI数智助手的产品，比如火山引擎数智平台VeDI—AI助手、KyligenceCopilotAI数智助理、ThoughtSpot等，经过接......
高效RAG高低文紧缩方法COCOM 优化5.69倍
GPT，4、Llama等开闭大模型经过预训练的方式将海量数据积攒成一个庞大的常识库，再经过文本问答的方式为用户生成各种内容，但这种方法仅局限于训练数据集，为了扩展输入范畴准许模型经过检索额外的数据来丰盛生成内容，RAG，常识检索增强，成为了......
卷不动了 Agentic的4种设计形式间接上手！
小长假完结了，当天给家人们分享一下假期开源的一个Agent设计形式图，图画的很美丽，热度蛮高的，而后还有大佬开源了配套的tutorialgithub名目，...。...
Multi
嘿，大家好！这里是一个专一于AI智能体的频道！CAMELAI在Mistralcookbook上新增了一个教程，重要内容为，如何应用CAMEL的RAG与Firecrawl相联合，以成功高效的网络爬虫、multi，agent角色表演义务和常识图......
AI四慷慨向 散布生成可信永续
AI技术继续神速打破，正贯通软配件并跨各行产业运行，由数字化更新到AI化，带来人类生存与产业的各种改革，AI技术继续神速打破中，未然成为环球数字化的干流，也正贯通软配件并跨产业运行，从关键零组件、智能装置、软件、平台、运行服务等，正在构成人......
最强GPT 长高低文才干只是吹嘘
大数字一贯吸引眼球，千亿参数、万卡集群，——还有各大厂商不时在卷的超长高低文，从一开局的几K几十K，开展到了当初的百万token级别，Gemini的最新版本可以接纳200万个token作为高低文，这大略相当于140万个单词、2小时视频或许2......
北大联结MSRA提出PoSE 用短输入模拟长样本 高效拓展LLM高低文窗口
论文标题，PoSE，EfficientContextWindowExtensionofLLMsviaPositionalSkip，wiseTraining论文链接，https，arxiv.org，abs，2309.10代码链接，https，......