蚂蚁集团官宣开源统一多模态大模型Ming
5月27日,蚂蚁模态在蚂蚁工艺日上,集团蚂蚁集团旗下的官宣百灵大模型(Ling)团队宣布正式开源统一多模态大模型Ming-lite-omni。据蚂蚁方面介绍,开源这是统多一款基于Ling-lite构建的MoE架构的全模态模型,其总参数22B,大模上海师范大学内幕全集激活参数3B。蚂蚁模态
据悉,Ming-lite-omni当前模型权重和推理代码已开源,官宣后续会陆续开源训练代码和训练信息。开源
https://huggingface.co/inclusionAI/Ming-Lite-Omni
今年以来,统多百灵大模型已经连续开源了多个模型产物,大模包括2个MoE架构的蚂蚁模态长沙学院绯闻价格大语言模型,Ling-lite和Ling-plus,集团多模态大模型Ming-lite-uni,官宣以及Ming-lite-omni-preview。
其中,其中五月中旬开源了Ling-lite-1.5,据百灵方面介绍,“能力已经接近同水位SOTA水平,介于千问4B和8B的水平。”蚂蚁方面称,这两个模型在多个算力平台(包括非Hopper架构的国产算力)进行训练,验证了300B尺寸的SOTA MoE大语言模型在非高端算力平台上训练的可行性。
而本次开源的Ming-lite-omni产物在多项理解和生成能力评测中,性能与10B量级领先的多模态大模型相当或更优。蚂蚁方面认为,这是目前已知首个在模态支持方面能够与GPT-4o相媲美的开源模型。
百灵大模型负责人西亭对媒体表示,百灵大模型的命名规则是Ling代表基础大模型,Ring代表推理版本,Ming代表多模态大模型。百灵在过去主要在几个方面做了聚焦,一个是很早做MoE架构的探索,坚定的在语言大模型和多模态大模型上面统一使用了MoE的架构,同时使用了大量非高端的算力平台,证明了国产GPU的“也能训练出来可比拟GPT4o的模型”。其次,百灵很重视多模态领域的探索,一直在推进多模态的生成和理解的统一,而本次开源的Ming-lite-omin即是过去工艺探索的成果。
百灵方面表示,团队下一步将持续优化Ming-lite-omni在全模态理解和生成任务上的效果,并提升Ming-lite-omni的多模复杂推理能力;同时也会训练更大尺寸的全模态模型Ming-plus-omni。此外,根据西亭透露, 百灵还在筹备Ling的Max版本,发布节点将会是“追寻跟(deepseek)V3的版本差不多的版本时开出去”。
(雷峰网(公众号:雷峰网))
雷峰网原创文章,未经授权禁止转载。详情见转载须知。
相关阅读
- 大模型助力企业数据驱动,火山引擎数智平台发布 AI 助手
- 香港王牌音乐剧内地首秀 粤语原创《大状王》登台上海
- 《书卷一梦》6月26日爱奇艺开播!李一桐刘宇宁“强制同行”笑闯剧本世界
- 《圆缘小济:神镜2049》首演:点亮一众人心
- 阿里与上交大提出 LLM 长文本计算新解法:可处理文本长达 1900k 字节、效率提升 2.4 倍
- 破局与坚守:《非常交易》用诚意叩开暑期档电影新可能
- 北京京剧院汇集强大主创阵容 新编现代京剧《野火春风斗古城》8月首演
- 冠珠瓷砖明星屋主易大千的温暖宅:处处都是热爱
- 上半年我国汽车产销量均超1500万辆 新能源汽车表现亮眼
- 新丽传媒双剧绽放白玉兰:《玫瑰的故事》摘编剧奖,张若昀获海外推广荣誉
- 潮玩无界:泡泡玛特以中国设计链接全球艺术生态
- 光影少年罗伟宸:从上海电影节到未来可期
- 云南威信县黑龙村强降雨疑似致5人失联
- 杨紫李现《锦绣芳华》定档6月30日 牡丹重耀续写盛唐华章
- 新丽传媒双剧绽放白玉兰:《玫瑰的故事》摘编剧奖,张若昀获海外推广荣誉
- 刑侦悬疑网剧《真相半白》今日开播 暗黑推理高智追凶启幕
- 吴艳妮母亲熊艳拒绝八十万公关费:抢跑又不是抢劫
- 宫廷美学遇上Lolita:花与珍珠匣×甄嬛传新品发布,打造梦想华服
- 老铺黄金新加坡首店开业 中国高端黄金品牌出海
- 萧纤纤获全球国际小姐冠军,闪耀演艺界时尚界