现在大模型的能力还在进步吗?

D1-本次调查走访了北美相关科技公司及相关行业专家。谈到一些公司IR(英伟达/supermicro/intel/tesla/equninix），在技术和产品应用方面，我们讨论了相关的技术和产品专家（openai/adobe/google/meta/微软/amazon/nVidia/anthropic）。Q&A1.现在大模型的能力还在进步吗？模型的能力上限在哪里？在某种意义上，这个问题决定了整个人工智能行业的上限，模型能力的最终极限决定了计算能力的需求和应用程序的想象空间。从交流专家的角度来看，对大模型2-3年维度的持续迭代进步普遍持谨慎乐观的态度。然而，从某种意义上说，这种乐观主义不同于去年gpt3.5诞生的星海。这种乐观主义更多地基于模型端研发人员的具体进步。例如，用户感知端大语言模型的进步相对缓慢（一些专家表示，这就是为什么gpt5没有推出，而是推出了gpt4o），用户感知不明显的数学能力可能会取得更大的进步，通过相对较小的大模型预研究，仍然可以看到进步，这也意味着更大的计算能力仍然可以带来模型的进步。因此，从一年的维度来看，模型进步对计算能力需求的牵引力应该非常强。一方面，它可以在自己的研发端看到有价值的进步。同时，这项研究可以清楚地感受到人工智能模型落后后传统大型工厂的压力。例如，谷歌对组织结构进行了更多的调整，同时，它也给予了非常高的薪水（应届牛工资+100万股，package唯一能与openai相匹配的传统大厂商)似乎没有人主动提到大模型能否通向AGI。谷歌专家还表示，尽管大型模型可以通过图灵测试（最公认的AGI判断标准），但似乎很难认为当前的大型模型是AGI，甚至从某种意义上说，大型模型现在是一个统计结果。也许，大型模型再次出现类似gpt3.5的能力跳跃，更多的机会在于多模态(google专家演示了手机gemini实时交互的视频)，或者当传统大型模型transformer架构有很大的突破时。也许，大型模型再次出现类似gpt3.5的能力跳跃，更多的机会在于多模态(google专家演示了手机gemini实时交互的视频)，或者当传统大型模型transformer架构有很大突破时。2.scaling law是否能保证大厂高强度capex的持续有效？model的质量主要由以下三个环节组成：目前，transformer架构被公认为主流，短期内很难看到颠覆的可能性。模型规模：规模越大，性能越好。数据质量(数据多样性、质量、数量)：多次提到训练数据枯竭的问题。从以上三个环节来看，数据的枯竭可能是限制scaling 在大语言模型的训练中，law的一个重要问题尤为明显。Scaling数据 law可能仍然有效，但数据的规模可能无法支撑无限扩张。相比之下，多模态训练数据还没有遇到这个问题。目前，计算能力的堆叠是差异最小的方向。一方面，大型模型仍在进步，另一方面，硅谷巨头仍处于模式不确定的战备阶段。目前，美国计算能力的限制是电力。为了应对电力短缺，谷歌已经开始尝试多数据中心的协同计算。3.竞争格局？目前来看，openai、google、总的来说，meta是比较领先的，anthropic作为amazon和gogle共同投资的独角兽也有背书。马斯克的Xai处于起步阶段，但专家表示，马斯克对高端人才的吸引力很大，Xai也有很强的人才储备。从某种意义上说，北美几个领导者和openai之间的差距应该缩小。一方面，传统巨头在人才储备方面已经完全足够了，尤其是谷歌，被公认为硅谷技术人才储备的领导者。其次，硅谷之间的技术交流相对方便，没有禁业协议。Meta专家表示，即使他没有开源，除非openai在架构上再次跃升，否则他的技术实现对业内专家来说也不是秘密，很快就会赶上。至于openai如何保持这一领先地位，openai的专家表示，他们更依赖自己的人才密度（目前的招聘门槛很高）和chatgpt积累的数据资源。从最前沿的科学角度来看，国内模型研发的差距仍然相对较大。硅谷的环境非常孤立，科技大厂对研发的投资更加纯粹（meta，amazon的专家表示，该公司燃烧了100亿美元，并没有要求生产任何产品），因此在探索前沿结构方面与硅谷有很大的差距。然而，考虑到硅谷整体模型的迭代也在一定程度上放缓，国内模型应该能够保持不被打开。4.应用创新:北美和创新一样迷茫，瓶颈是什么？以微软和adobe为例，这两家公司拥有最强的产品广度和深度，并在过去一年中频繁发布应用产品，但从最终用户付费订阅的比例来看，结果低于预期。以微软为例，他的M365 copilot热门应用主要集中在企业搜索上，m365chat，summarization，reference(emails)等等，最好的产品teams 人工智能的日常生活在几百万左右。对于去年PPT和EXCEL的PR视频，专家诚实不够好的主要问题是1)PPT和EXCEL产品是一个0-1创建的过程，但对于当前的大型模型能力，0-1生成过程非常难以匹配用户的期望。2)这类产品需要用户从零开始构建promt(提示词)，用户的使用门槛也很高。3）PPT的创建是一个长期的过程，类似于化学工业。每一步的产生误差最终都会积累起来，这将带来整个产品的巨大偏差，并回到大型模型能力的限制。我同意meta技术专家的观点，即大型模型本身现在显示的功能，大多数时候，对用户来说只是好的 to have，但没有这个功能对每个人来说都不是一个不可接受的退步。总的来说，对于应用程序的扩展，与移动互联网时代的本地人工智能应用程序相比，当前人工智能可以看到解决当前需求和提高效率的机会。因此，从B端的角度来看，它将是当前人工智能应用程序的主要方向。此外，C端应用最重要的尝试方向是通过AIPC和AIPhone等系统级的终端创新打破单个APP的数据分割(AIPhopic专家的观点)。总结：本研究主要访问硅谷人工智能相关公司。总体印象是，人工智能的大型模型和计算能力的技术进步仍在继续，其中大型模型的进步已经过去年的惊人阶段，模型能力的演变相对温和。总结：本研究主要访问硅谷人工智能相关公司。总体印象是，人工智能的大型模型和计算能力的技术进步仍在继续，其中大型模型的进步已经过去年的惊人阶段，模型能力的演变相对温和。对计算能力的需求仍然很强劲。与模型本身的进展相比，由于供需明显短缺，计算能力的整个环节看起来更加繁荣。应用创新也面临一定的瓶颈。从应用端来看，落地的产品并不多。目前c端原产品的应用遇到瓶颈，更多的是b端需求，可能需要依靠手机、电脑等终端厂商来调整产品形式，释放创新空间。实施到投资维度，主要与计算能力和应用方面相关。计算能力板块在一年内仍能保持较强的景气可见度，甚至不排除继续超出预期的可能性。它仍然是人工智能方向最值得配置的板块。在应用领域，降低国内AI本土应用和国内大型企业C端商业化进展预期，关注B端布局的企业。更加关注AIPC和AIPhone带来的潜在用户体验超出预期。D2-美国人工智能研究总结(要点)：1、到了硅谷科技巨头的现场，我才真正意识到人工智能离我们的生活越来越近了。谷歌完全自动驾驶汽车，特斯拉最新版本的自动驾驶技术，英伟达人形机器人研发平台，微软AIPC、苹果的AI手机等等都在大步向我们走来。2、中美科技生态对比巨大。另一方面，它不顾成本进行颠覆性创新，而另一方面，它不顾一切代价进行最低价格，这直接导致同一企业利润完全不同的股票估值差异，因为投资者总是愿意为良好的利润竞争模式买单。3、在对岸新一代中国精英圈，人工智能投资最强的一群人。包括在中国大陆留学后定居美国、从硅谷码农转型投资、从中国台湾省转型的人工智能投资圈，他们对人工智能的认知深度、前瞻性和与上市公司的密切性都远远超过我们。不仅仅是投资。虽然他们在国外，但他们总是关心这个国家，他们对这个国家的某些方面的认识比我们国内的一些精英更清晰。我希望他们中的一些特别优秀的人将是中国的未来。4、在美国，中国人是中国和美国最大的受损群体之一。目前，硅谷30%以上的人工智能工程师都是中国人，但除了来自台湾的英伟达，进入人工智能龙头企业几乎为零。无论是在科技工作场所还是在其他更多场景中，中国人实际上被挤压是一种普遍现象，而印度人在人工智能领域有趋势，更多的人工智能和核心职位，包括微软和谷歌的首席执行官，来自印度人。因此，只有当国家好的时候，我们中国人才能好。每个普通的中国人都有责任关心国家，使国家的内外环境尽可能好，使全球中国人的生活空间不会变得更糟。5、波音总部的装配工厂规模令我惊讶，如果波音从世界各地分散的机身、发动机和装配工厂，估计需要一个大城市面积，如此庞大的有形资产企业，其股票市值1000亿美元，微软距离波音20公里，我们可以看到唯一的“生产场景”是代码农民在电脑前键盘，而且微软的年利润为1000亿美元，股票市值为3.1万亿美元，是波音的30倍。这给了我们一个强烈的信息：在二级市场，只有轻资产才能有良好的股票估值、土地、工厂和更多的设备生产线，它在股票估值中没有多少价值，我们需要稀释净资产的价值，特别是有形资产的价值，选择正确的轨道是我们的股东真正的大事！这给了我们一个强烈的信息：在二级市场，只有轻资产才能有良好的股票估值、土地、工厂和更多的设备生产线，它在股票估值中没有多少价值，我们需要稀释净资产的价值，特别是有形资产的价值，选择正确的轨道是我们的股东真正的大事！6、到了苹果总部，有一种莫名的兴奋。因为在我看来，苹果是一家消费公司，而不是一家高科技公司。苹果不应该与英伟达和华为等纯科技公司竞争。科技公司追求技术迭代，消费公司追求品牌护城河。任何科技公司都没有长期投资价值，只有中线价值，因为科技总会有更强大的后来者超越前者，只有具有品牌壁垒的消费公司才有真正的长期投资价值，消费公司像张学友一样唱歌。几十年来，他们可以用几首歌来回唱歌来赚钱，而科技公司就像陈佩斯一样表演小品。电视直播结束后，小品的生命周期结束，需要继续寻找新的小品谋生。因此，要做股票，我们需要找到一个简单的复制业务，可以享受品牌溢价，并尽可能避免像素描这样的公司股票。因此，要做股票，我们需要找到一个简单的复制业务，可以享受品牌溢价，并尽可能避免草图等公司股票。7、强烈感受到美国经济适度过热而不是衰退。高价格、高工资、充分就业、持续繁荣的特点很明显。机场、酒店和餐馆基本上都满了。最昂贵的价格是汽车保险、餐饮、出租车、外卖、快递等劳动力领域。汽车、油价、超市日常必需品、服装等价格与中国几乎相同。得益于近年来美国的高就业率(美国的失业率一直在3.5%左右)、随着股市牛市和房价的持续上涨，美国和中产阶级的财产收入和财富大幅增长。虽然普通的低层生活并不令人满意，但国内媒体报道的美国经济整体衰退基本上没有迹象。8、美国有很多流浪汉，零元购买，社会保障差是一个普遍的共识。在过去的30年里，我去过美国六次，对其社会保障差有着深刻而真实的经验。为什么这种现象发生在世界上最强大的国家和社会保障体现完善的国家？在我看来，背后实际上是自由世界制度，因为在美国许多大陆，吸食大麻是合法的，在加州是950美元以内盗窃不会起诉和拘留，所以坐地铁公交车不买票，砸碎玻璃窗盗窃和抢劫超市现象，近年来基层民主党执政加剧了这一趋势。控制法制与民主自由是矛盾的。这种过度的自由必然会损害更多的社会群体的利益。一些美国媒体认为零元购买的社会现象是社会的“二次分配”和以市场为导向的美国“共同繁荣”，这似乎是合理的。9、开市客（Costco）无论是企业追求的价值、商业模式、专注力还是企业文化，绝对是一家受人尊敬的伟大公司。我有幸在6月7日与公司中层经理沟通，沟通内容更深入，会议结束后，公司中层经理不止一次继续与我深入讨论电力和线下话题，我特别关注我们的沟通时间，发现是她下班后的晚上，这给了我一个新的认知：在美国的优秀公司，事实上，员工已经把企业当作自己的家。想象一下，西方企业员工下班后不再关心任何与工作相关的现象并不完全存在。新思哲董事长韩广斌特别重视美国企业的企业文化。10、在美国之行之后，我对美国八大科技巨头的头寸价值进行了如下排名：首先，苹果将时间延长到5年和10年。这是确定性最好的目标。也许没有一个是英伟达。人工智能已经进入了硬件时代。减少员工购买芯片是七大科技巨头甚至更多科技公司的普遍做法。芯片比人更重要。有了芯片和大型模型的集成，英伟达不再需要更多的软件和系统集成工程师，而英伟达是最大的受益者。此外，其芯片业务向两端延伸和全面构建人形机器人研发平台的战略是未来的一大亮点。第三，如果微软追求收入，微软必须是稳定性的最佳选择，因为微软作为B端的人工智能竞争模式是目前最好的。世界上几乎大多数企业都是其用户。无论是主权国家还是大型企业，它都离不开人工智能的全面升级。此外，其云业务规模将很快超过亚马逊。第四，台积电作为世界上最杰出的晶圆代工厂，未来两年只有英伟达和苹果的订单占其产能的50%。我们“西湖共识组”的半导体专家估计，台积电未来三年的复合增长率不会低于50%。作为一家大型市值公司，这种增长率真的很可怕。第五，脸书，作为每一次科技潮流中的追随者，这次也是如此。虽然到目前为止还没有看到它在人工智能领域的颠覆性产品，但基于其数十亿C端用户的巨大价值，人工智能太容易赚钱。第六，谷歌，谷歌一直是我心目中的一家伟大公司。以前看了这个场景还是一样的，但是现在面临着最受欢迎的OpenAI公司强大的正面竞争。我相信谷歌最终会继续伟大，但作为二级市场，从追求确定性的角度来看，我暂时选择观望谷歌7。亚马逊，这是一家值得尊敬的杰出公司。它的优秀超出了大多数人的认知。80%的收入来自电子商务，80%的利润来自云业务。然而，基于我对中国拼多多的强烈乐观，我自然人为地压制了它的排名。然而，基于我对中国拼多多的强烈乐观，我自然会人为地压制它的排名。八、特斯拉，特斯拉是一家颠覆人类的科技公司，马斯科为人类做出了巨大贡献。但在最近560亿美元的“薪酬门”事件之后，我对特斯拉的看法发生了很大的变化。在商业成功的背后，必须有企业伦理的元素。这一薪酬事件暴露了特斯拉在公司治理中的主要缺陷和潜在风险。从内心深处，我不喜欢这家为自己的个人利益没有底线的公司。三思行研