截至2024年3月25日，中国10亿参数规模以上的大模型数量已经超过100个，号称“百模大战”。
这些大模型的应用领域、参数规模各有不同，但是，背后都是白花花的银子。
根据行业估测的数据，训练一个大模型，成本可能在几百万美元到上亿美元之间。例如，GPT-3训练一次的成本，约为140万美元。Claude 3模型的训练费用，高达约1亿美元。
如此多的企业推出大模型，实际上也是一种资源的浪费。
而且，大模型也分为开源大模型和闭源大模型。行业里有能力做闭源大模型的企业，并不是很多。大部分的大模型，都是基于开源大模型框架和技术打造的，实际上是为了迎合资本市场的需求，或者为了蹭热度。
行业里，目前仍有部分头部企业在死磕参数规模更大的超大模型（拥有数万亿到数千万亿个参数），例如OpenAI、xAI等。马斯克之前就在X平台宣布，xAI团队已经成功启动了世界上最强大的AI训练集群。该集群由10万块H100组成，主要用于Grok 2和Grok 3的训练和开发。
对于大部分企业来说，万卡和万亿参数其实已经是个天花板了，再往上走的意愿不强烈，钱包也不允许。
随着行业逐渐趋于理性，现在大家的关注焦点，逐渐从“打造大模型”，变成“使用大模型”。如何将大模型投入具体应用，如何吸引更多用户，如何通过大模型创造收入，成为各大厂商的头等任务。
大模型落地，就涉及到能力“入”端（下沉到终端）。所以，AI手机、AI PC、具身智能的概念越来越火，成为新的发展热点。
以AI手机为例，像高通、联发科等芯片厂商，都推出了具有更强AI算力的手机芯片。而OPPO、vivo等手机厂商，也在手机里内置了大模型，并推出了很多原生AI应用。
第三方AI应用的数量，就更不用说了。截止目前，根据行业数据显示，具有AI功能的APP数量已达到300多万款。2024年6月，AIGC类APP的月活跃用户规模达6170万，同比增长653%。
大模型入端，也带来了轻量化的趋势。为了在资源受限的设备上运行，大模型将通过剪枝、量化、蒸馏等技术进行轻量化，保持性能的同时减少计算资源需求。
|
楼主
标题置顶
标题高亮
