A | (ECNS) -- Ning Boyu, a principal engineer at China's tech giant Huawei, recently announced on social media that he has left the company and will pursue postdoctoral research at KTH Royal Institute of Technology in Sweden. Explaining his decision, Ning said that during his time at Huawei, he noticed a gap between industry needs and academic research. After discussing these issues with university professors and students, he realized that he particularly enjoyed engaging with the academic community, according to Jiupai News, a media outlet in Hubei province. Ning said he has received a Marie Curie postdoctoral fellowship and will conduct research at KTH Royal Institute of Technology. He plans to return to China after completing the program. Widely known as a member of Huawei’s Top Minds program, the 30-year-old described his three years at the company as a valuable experience that sharpened his skills and allowed him to forge lasting friendships with colleagues. Asked about the “Top Mind” label, Ning admitted that after joining Huawei, he realized he was not necessarily the most outstanding employee in terms of either technical ability or intellect. This led him to question whether he truly deserved the title. In his own assessment, his strengths include a passion for research, a willingness to delve deeply into problems, a habit of getting to the root of issues, and an ability to simplify complex matters. However, he also acknowledged several weaknesses, including an average memory, difficulty multitasking, a tendency to have many scattered ideas, and a mind that often jumps from one thought to another in both work and daily life. Recently, Ning helped a relative sell freshly harvested corn. He described it as a completely new experience that gave him a deeper appreciation of the challenges faced by people from all walks of life. 
。 智东西（公众号：zhidxcom）
编译 | 茄子
编辑 | 程茜
智东西7月21日消息，昨日，The Information援引知情人士消息报道，谷歌正在研发一款面向Gemini模型的新型AI服务器芯片Frozen v2。该芯片计划将Gemini模型部分架构直接集成到芯片中，通过减少运行过程中的计算决策和数据搬运，提升AI推理效率。
知情人士透露，谷歌工程师预估，按照单位功耗能够输出的Token数量计算，Frozen v2的效率可能达到谷歌最新自研AI芯片的6至10倍。
这款芯片在谷歌内部被非正式地称为“Frozen v2”。知情人士称，谷歌希望借此缓解严重的AI算力短缺问题。算力紧张已经在谷歌内部引发矛盾，还迫使谷歌云拒绝部分外部客户的订单。
知情人士还透露，谷歌最快可能于2028年部署这款芯片，但该公司目前仍在确定Frozen v2的主要功能、各部分的协同方式，以及究竟要将多少模型信息固化在芯片中。
The Information还提到，Frozen v2并非谷歌首次探索模型专用芯片。此前，谷歌DeepMind首席科学家杰夫·迪恩（Jeff Dean）曾计划将模型权重直接固化到芯片中，但由于该方案的芯片只能适配特定版本模型、生命周期过短，最终被搁置。
B | 一、把Gemini部分逻辑写入芯片，减少芯片数据搬运 当前主流AI芯片大多强调通用性和可编程能力，如英伟达GPU能够支持多种AI模型和计算任务。这类芯片需要支持多种不同AI模型，因此在运行过程中需要根据模型需求完成大量计算调度和决策。谷歌TPU也类似，虽然它针对AI进行了优化，但也需要兼顾不同模型运行需求。
C | 而Frozen v2采用了不同思路。据爆料，谷歌计划将Gemini模型部分信息直接“固化”到芯片中，让硬件提前了解模型运行方式，从而减少执行过程中的决策步骤，以及芯片内部的数据移动。 简单来说，传统GPU更像一台能够运行各种软件的通用计算设备，而Frozen v2则更接近针对Gemini优化的专用硬件。
D | 这种设计可能带来更快的响应速度，并帮助谷歌降低Gemini模型运行成本。 不过，模型专用化也意味着更强绑定。
E | 如果未来Gemini模型采用新的底层架构，那么Frozen v2可能无法直接适配。谷歌因此仍需要在芯片效率和模型灵活性之间寻找平衡。
F | 据知情人士透露，谷歌目前仍在决定Frozen v2中应该固定多少模型信息，以平衡性能提升和未来兼容能力。谷歌发言人在一份声明中称，研究团队一直在研究和试验新的技术，以提高面向用户和客户的系统性能与效率，并非所有研究项目都会投入生产，但这些探索是谷歌全栈技术路线的重要组成部分。 二、推理芯片竞赛升温，初代Frozen方案曾被搁置 过去几年，AI基础设施竞争围绕训练展开。大规模模型训练需要大量GPU集群，英伟达凭借GPU生态占据主导地位。The Information去年12月报道，英伟达去年12月通过一笔价值200亿美元（约合人民币1353亿元）的交易，获得了AI推理芯片创企Groq的相关技术授权。 包括SambaNova、d-Matrix、OpenAI和微软在内，多家公司都在开发AI推理芯片。这些公司的共同目标，是以比英伟达GPU更高的效率运行AI模型，缓解算力短缺并降低成本。 与此同时，加拿大芯片创企Taalas也采取了谷歌类似思路，将特定AI模型直接硬编码进芯片。Taalas目前已经获得超过2亿美元（约合人民币13.5亿元）融资，投资方包括Quiet Capital和富达投资。 据The Information透露，Frozen v2此前还有一个更激进的版本。由谷歌DeepMind首席科学家杰夫·迪恩主导的初代Frozen方案，曾计划直接将模型权重固化到芯片中。 但这种设计会让芯片只能运行某个特定版本的Gemini。一旦模型更新，芯片便可能迅速失去使用价值。由于预期生命周期过短，谷歌最终搁置了初代方案。 据知情人士透露，Frozen v2不再固化完整模型权重。但谷歌目前仍在评估应该锁定多少模型信息，以平衡灵活性与运行效率。 三、Frozen v2并非取代TPU，谷歌先将其作为技术试验 虽然Frozen v2受到关注，但知情人士透露，谷歌并没有计划用它替代TPU。据报道，Frozen项目旨在建立一条区别于TPU的新型自研芯片路线。 今年，谷歌发布了第八代TPU，并开始直接向谷歌云客户推销这款芯片，挑战英伟达在AI芯片市场的主导地位。此外，谷歌还与Meta签署了价值数十亿美元的TPU租赁协议，并在尝试向其他云服务商销售TPU。 ▲第八代TPU实物，左手为推理芯片TPU 8i、右手为训练芯片TPU 8t（图源：谷歌） The Information称，相比单纯依赖英伟达GPU，谷歌自研TPU已经帮助其降低Gemini模型运行成本。因为，谷歌在开发TPU时也考虑了Gemini的需求，只是TPU集成的模型信息远少于Frozen v2。Frozen v2面向Gemini进行更深度的定制，但适用范围也比TPU更窄。
G | 据知情人士透露，谷歌目前没有计划让Frozen v2的产量达到TPU的规模。因为，较小的生产规模可以使谷歌在推出大型产品之前，更晚地引入外部芯片设计和制造合作伙伴。该知情人士还称，谷歌将这一代产品部分视为技术试验，并希望从中积累开发专用AI芯片的经验。
H | 结语：用部分通用性换取更高推理效率 Frozen v2并不是TPU的替代品，而是谷歌针对Gemini开辟的一条专用芯片路线。谷歌希望通过将部分模型架构和计算决策固化到硬件中，以减少推理过程中的计算步骤和数据搬运，从而以更低功耗处理更多用户请求。
I | 不过，更高的专用化程度也意味着芯片与模型架构绑定得更紧。Frozen v2最快要到2028年才能部署，届时Gemini底层架构能否保持稳定，以及6至10倍的预期能效提升能否在实际应用中实现，将成为决定这一项目价值的关键。 来源：The Information。
Current article:http://www.senchuoshaozaodidia.shop/zd2b/84czo2.htm
Published on:18:30:06
