9月5日,AI初创企业北京面壁智能科技有限责任公司(简称面壁智能)推出新一代端侧大模型——MiniCPM 3.0。
据了解,此次发布的MiniCPM 3.0是面壁智能“小钢炮”系列的最新产品。面壁智能CTO曾国洋在接受澎湃科技(www.thepaper.cn)采访时介绍,MiniCPM3.0在上下文处理长度、Function Calling等方面进行了全面升级。在性能上超越了如阿里的Qwen2-7B和智谱的GLM4-9B等知名模型,在包括自然语言理解、知识、代码、数学等多项能力上超越OpenAI的 GPT-3.5。
曾国洋介绍,在长文本技术上通过引入LLMxMapReduce长文本分帧处理技术,通过将长文本切分片段并行处理,再汇总答案,MiniCPM 3.0实现了无限长度的文本处理能力,使上下文长度从32K、128K拓展至512K甚至更高。
曾国洋表示,通过该项技术,可以打破大模型的记忆限制,使用户可以让模型一次性处理整本书籍、海量学术论文或是跨年聊天记录,提升端侧AI的实际应用能力。
据介绍,MiniCPM 3.0的Function Calling功能也得到了增强,能够调用端上的各种工具和函数,扩展了模型的应用边界,并配合RAG外挂知识库技术使端侧模型在实际应用中有多功能性。
面壁智能CEO李大海称,正积极推动端侧大模型商业落地,明年会有配备端侧模型的终端设备开始量产,包括手机和PC等设备。据了解,面壁智能已与多家企业展开合作,推动端侧大模型技术落地应用。在8月21日的世界机器人大会上,面壁智能与加速进化机器人合作,将MiniCPM模型植入人形机器人,作为机器人的“大脑”,接收人的指令并执行动作。面壁智能方认为,端侧模型进入机器人的挑战要高于手机和 PC,但却是面向最终极的应用。
面壁智能成立于2022年8月,专注大模型技术创新与应用转化。其创始团队主要来自于清华大学自然语言处理实验室(THUNLP),公司CEO李大海兼任知乎CTO(首席技术官);另一位公司联合创始人刘知远,则是清华大学计算机系副教授、博士生导师,研究方向为计算机自然语言处理。
今年4月,该公司完成新一轮数亿元融资,由春华创投、华为哈勃领投,北京市人工智能产业投资基金等跟投。
还没有评论,来说两句吧...