基础设施,在AI时代里是什么样一个角色?有人说像电,有人说像水。
无问芯穹认为,优良的基础建设,是一种「魔法」,能够让大模型成本有效下降,让更多人拥抱新技术。
7月4日,无问芯穹联合创始人兼CEO夏立雪发布了全球首个千卡规模异构芯片混训平台,千卡异构混合训练集群算力利用率最高达到了97.6%。
四个月前,无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测,已有智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AINative应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发自身业务模型。
建设大模型时代的AINative基础设施,不仅能够为AI开发者提供更加通用、高效、便捷的研发环境,同时也是实现算力资源有效整合,支撑AI产业可持续发展的关键基石。与国际上模型层与芯片层「相对集中」的格局相比,中国的模型层与芯片层更加有多样性。
然而,多样性也意味着挑战,大量的异构芯片也形成了「生态竖井」,不同硬件生态系统封闭且互不兼容,给算力的使用方带来一系列技术挑战。这是构建AINative基础设施的最大难点,也是当前大模型行业面临「算力荒」的重要原因。
无问芯穹具备顶尖的AI计算优化能力与算力解决方案能力,以及对「M种模型」与「N种芯片」行业格局的前瞻判断,率先构建了「MxN」中间层的生态格局,实现多种大模型算法在多元芯片上的高效、统一部署。
截至目前,Infini-AI已支持了Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3系列等共30多个模型,以及AMD、华为昇腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡。
「技术上限推高与技术落地扩散不矛盾,且取决于我们决心如何对待这个技术。」夏立雪表示,「未来我们用各种AI应用时,也不会知道它调用了哪些基座模型,用到了哪种加速卡的算力——这就是最好的AINative基础设施。」
爱范儿|原文链接··新浪微博
「校园护肤」大学校园内让女生都惊叹的精致男孩子,快艾特你的他
小编曾经有幸在万圣节的那天,亲身体会过一个大学男孩子真的比女生还看中护肤的重要性。那天下午约好一群朋友出去过万圣节,虽然会在外面休息一晚,但由于路途遥远,都只带了卸妆用品。快到地铁口的时候,我才发现自己没带口罩,询问一起出行的人中,一个男孩子说他背包有多余的口罩,我在翻找的过程中发现了洗面奶、水、乳...
38岁前日本国脚细贝萌本赛季结束后退役,曾随队夺2011亚洲杯冠军
直播吧10月23J2球队群马草津温泉今日宣布,队内前日本国脚细贝萌将在赛季结束后正式退役。细贝萌现年38岁,出道于日本足球名校前桥育英,2010年1月他从浦和红钻开启旅欧生涯,加盟勒沃库森,此后效力过奥格斯堡、柏林赫塔、布尔萨体育、斯图加特等欧洲球队。2017年他回到J1联赛,加盟柏太阳神,随后前往...
中美若硬脱钩,全球蒸发7.4万亿美元?赢家浮出水,我国还有后手
IMF(国际货币基金组织)做了一个预估,中美脱钩将造成约7.4万亿美元的损失。那么,中美是如何走向脱钩的呢?咱们一起回顾历史,展望未来。在新中国建立之初,因为美国政府受意识形态影响,导致中美两国合作交流的大门关闭。之后因为前苏联国力雄厚,同时大搞大国沙文主义,要求中国按“比较优势”发展农业,而在重工...
2023年即将结束,今年炸鸡业如火如荼,此时选择炸鸡店加盟如何?
不知不觉间,2023年即将离我们远去,回顾过去一年的时间,随着经济形势的日趋向好发展,人们的创业需求也出现了爆发式增长,不少人借着今年的大好形势赚得了人生的“第一桶金”,其中炸鸡品类毫无疑问成为了不少创业者眼中的黄金项目。从街头巷尾的小吃摊,到商业区的人气店铺,炸鸡店的数量与日俱增,而且家家户户的生...