首个端侧全模态AI模型发布,无问芯穹融资近10亿
近日,国内领先的AI公司无问芯穹宣布开源其“端模型+端软件+端IP”端上智能一体化解决方案中的核心小模型——全球首个端侧全模态理解开源模型Megrez-3B-Omni,同时推出纯语言版本模型Megrez-3B-Instruct。此举标志着无问芯穹在推动AI技术开源共享方面迈出了重要步伐。
无问芯穹表示,Megrez-3B-Omni作为能力预览,未来将继续迭代Megrez系列模型,并同步提供软件、IP在内的端上智能一体化解决方案。无问芯穹成立于2023年5月,由清华大学电子工程系创始人团队创立。公司依托领先且经过验证的AI计算优化能力和算力解决方案,致力于实现大模型落地的极致能效,打造“M种模型+N种芯片”之间的“M×N”中间层产品,实现多种大模型算法在多元芯片上的高效、统一部署,构建AGI(通用人工智能)时代的大模型基础设施。
目前,无问芯穹的产品线涵盖了算力推理平台、AI基础设施解决方案以及端上智能一体化解决方案等。公司旗下平台已支持超过20个模型,包括Baichuan2、ChatGLM3、Llama2、Qwen系列等,以及AMD、壁仞、寒武纪、燧原、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡。无问芯穹还专注于多模型与多芯片之间的软硬件联合优化和统一部署。
在融资方面,无问芯穹于今年9月宣布完成近5亿元A轮融资,由社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创投和洪泰基金联合领投,跟投方包括联想创投、小米、软通高科等战略投资方,国开科创、上海人工智能产业投资基金(临港科创投担任管理人)、徐汇科创投等国资基金,以及顺为资本、达晨财智、德同资本、尚势资本、森若玉坤、申万宏源、正景资本等财务机构。至此,无问芯穹在成立短短16个月内,累计完成近10亿元融资。
无问芯穹联合创始人、CEO夏立雪表示,无问芯穹在互联网客户大模型推理业务场景中,整体算力使用效率提升了90%,有效解决了客户大模型业务中的算力成本问题。夏立雪认为,未来3-5年内,无问芯穹将规模化实现利润。公司致力于成为连接模型和硬件的基础设施,与众多重要合作伙伴展开了密切合作和战略协同。
中信建投研报指出,端侧AI产业发展加速,AI模组市场潜力巨大。大模型厂商本质上为软件服务商,可通过AI模组等硬件厂商的能力进行实物化输出,帮助终端厂商顺利实现应用落地。通过“端侧算力+通信+API”功能的AI模组产品,将大模型能力直接带入各种终端设备,实现“AI终端”的普及。