闭源模型的统治时代将迎来完结 Llama3.1系列模型正式开源 最大405B

闭源模型的统治时代将迎来完结 Llama3.1系列模型正式开源 最大405B

Meta开源了Llama3.1系列模型,最大参数规模为405B,开源也是好起来了,榜单目的直逼GPT4,o,开源追上闭源模型不再是梦!Llama系列模型确实是开源界的头部,真金白银砸进去的就是不一样,不过如今大家也都知道,榜单成果和实在经常......
koi 11-15
921 311 788
综述

综述

大家好,我是刘聪NLP,大模型曾经展现出了较强的文本生成才干,但随着经常使用场景变得越加复杂和严厉,除了防止生成误导或不当舆论内容外,往往还宿愿可以满足用户的不凡需求,而可控文本生成就是为了在坚持文本生成有用性、流利性和多样性的同时,保障文......
koi 11-15
762 585 827
Meta颁布1B和3B端侧模型 11B和90B多模态模型 Llama3.2开源

Meta颁布1B和3B端侧模型 11B和90B多模态模型 Llama3.2开源

早上起来发现,MetaAI又开源模型,文本模型开源了端侧小模型1B和3B模型,也是初次开源了多模态大模型11B和90B两个版本;同时还开源了一个LlamaStack名目,Blog,https,ai.meta.com,blog,llama,3......
koi 11-15
235 378 821
没有等来Qwen2.5 但等来了Qwen2

没有等来Qwen2.5 但等来了Qwen2

Qwen2又出新作Math大模型,你值得领有,我没有等来Qwen2.5,但等来了Qwen2,Math,在数学推理才干上大幅度提高,先来一张图阵阵场子,72B模型超越GPT4,o、Claude,3.5,Sonnet和Gemini,1.5,Pr......
koi 11-15
397 234 886
将端侧大模型启动究竟

将端侧大模型启动究竟

面壁不时都在做端侧大模型,之前有文本系列MiniCPM,2B模型,还有多模态系列的MiniCPM,V系列模型,当天又开源了MiniCPM3,4B模型,真是端侧一路走到低,这次MiniCPM3,4B也是在成果上有了渺小的优化,超越Phi,3.......
koi 11-15
755 478 775
讨论

讨论

以chatgpt为起始节点的大模型技术经过了两年左右的开展,大抵积淀了一些较为确定的钻研畛域,首先是基座大模型的钻研,关键是国际外大厂集中少量财力、人力、算力启动大模型军备比赛,希图将大模型的基础才干,包括推理才干,下限逐渐优化到更高的档次......
koi 11-15
160 313 484
LLM通常系列

LLM通常系列

通过了数据搜集、挑选、去重,马上就可以开局训练试验了,然而在试验之前,咱们还须要先失掉一个言语模型的基石,分词器,Tokenizer,Tokenizer的作用是对一条文本数据启动切分、词表映射,失掉这条文本的token序列,用开源Token......
koi 11-15
754 545 359
浅谈

浅谈

当天给大家带来知乎朋友@ybq一篇对于如何启动畛域模型训练的文章,关键内容是对post,pretrain阶段启动剖析,后续的Alignment阶段就先不提了,留意好老生常谈的,数据品质,和,数据多样性,即可,原文,https,zhuanla......
koi 11-15
913 684 589
GLM4模型开源 预料之外的成果 预料之中的尺寸

GLM4模型开源 预料之外的成果 预料之中的尺寸

写在前面当天智谱开了GLM,4,9B的模型,不是6B,是9B,一共开源了四个模型,Base版本模型,GLM,4,9B,、Chat版本模型,GLM,4,9B,Chat和GLM,4,9B,Chat,1M,和多模态模型,GLM,4V,9B,Cha......
koi 11-15
630 368 801
你值得领有!!! Qwen2.5系列模型开源

你值得领有!!! Qwen2.5系列模型开源

Ta来了,Ta来了,Ta带着7个Size的开源模型迎面走来了,是的,等候已久的Qwen2.5开源了,共有7个尺寸规模,包含,0.5B、1.5B、3B、7B、14B、32B和72B,区分有Base模型和Instruct模型,本次全是Dense......
koi 11-15
868 197 371