毫无疑问，AI 技能已经成为了智能手机、电脑等个人运算装备的下一个迁移厘革点。在上游芯片范畴，高通、英特尔等品牌已经完成了 NPU、AI 芯片等产物的产物结构，正旗帜光显地朝着 AI 技能落地进发。在产物侧，自 2023 年骁龙峰会竣事后，除 Apple 外各大品牌都争先推出接纳 AI 大语言模子技能的具体产物。在前段时间才竣事的 CES 2024 上，三星、华硕、遐想、戴尔等着名电脑品牌都发布了自己的「AI 电脑」产物，在三星「开箱日」（Unpacked）运动中，三星更是发布了其首批「AI 手机」——Galaxy S24 系列。

就连为了照顾老旧硬件兼容性而常常慢半拍的微软，也决定在将来的 Windows 11/12 中参加更多的 AI 功能。在 2023 年 Ignite 2023 开辟者大会上，微软 CEO 纳德拉以致表现微软成为了一家「Copilot 公司」。

图片泉源：微软

但从硬件设置上，有些电脑好像还没有准备好欢迎 AI 期间。

市场观察机构 TrendForece 的一则资讯中提到：

微软已将 AI PC 中的内存基线设置为 16 GB。从长远来看，TrendForce 预计人工智能PC将促进对 PC 内存的年度需求增长，斲丧者升级趋势进一步推动了这一需求。

换句话说，假如你电脑内存小于 16GB，微软的 Copilot AI 很大概与你无缘。

16GB 门槛并不高？

对于你我这种数码爱好者，16GB 的内存基线好像不高，究竟在 2023 年 12 月的 Steam 硬件观察中，内存小于 16GB 的玩家占比只有不到 22%。但就像刚刚说的那样，这个数字只能代表 Steam 玩家。思量到现实状态，这个 22% 并不具有普适性。再说了，微软的 Copilot AI 面向的更多的是工作场景，直接用 PC 玩家的高配游戏电脑来参考并不科学。

图片泉源：Steam

思量到大多数公司的商用电脑更换周期为 3 年，我们不妨以 3 前，既 2020 年的设置来做参考。根据 Digital Trened 的数据，2020 年寻常斲丧者的条记本电脑通常只配备 8GB 内存。好比在 2020 年某市某数据中央的竞价公告中，所采购的电脑内存就只有 8GB，未到达「基准线」。

图片泉源：重庆市当局采购网

固然了，思量到 Windows 11 的现实表现，微软和 Copilot 实在没有挑三拣四的底气：根据 Statcounter 公布的数据，停止 2023年 11 月，Windows 11 的体系占比仅为26.66%。与此同时 Windows 10 占比高达 68%，别的的全部体系版本加起来占比都不到 Windows 10 的 50%。

再接洽到前段时间微软正想尽统统办法「驱赶」用户改用 Windows 11，以致不吝「开闸放水」答应用户以自己的方式激活 Windows 11，小雷并不以为微软会在内存上为将来的 Windows 11 用户计划停滞，很有大概会在末了关头放开内存限定，或答应用户全量升级，但不包管关键应用的运行结果。

不外话又说返来，现在的 AI 大语言模子在智能手机上都能正常运行，高通以致在 2023 骁龙峰会展示了极为高效的手机 AI 大语言模子，岂非 8GB 电脑就真的跑不动 AI 吗？大概说有没有什么办法可以让 AI 大语言模子应用运行在 8GB 手机上呢？

办法自然是有的，好比将当地模子和线上模子混淆调用的混淆式 AI 大语言模子。

「分布式」混淆大模子是将来？

从运行位置来说，当前AI 大语言模子应用大抵可以分为三类：当地运行、远端运行和混淆运行。当地运行很好明确，即整个模子就跑在当前正在交互的体系中，可以离线运行的 AI 大语言模子应用和专业玩家在自己电脑上摆设的离线模子都属于这一类。

远端运行与之相反，指输入输出的装备和运行大语言模子的装备不在同一体系下的环境。那些通过网页、微信小步伐交互、或整个模子运行在远端服务器上的 AI 应用就属于远端运行。

图片泉源：微软

当地运行和远端运行各有各的上风和劣势，好比当地运行可以断网运行，将用户数据生存在装备当地，低沉数据泄漏的风险；当地模子在相应速率上也不依靠于网速，可以显着提拔用户体验。远端运行固然要将数据发往远端服务器并等候输出结果返回，但由于远端服务器一样寻常都是 HPC 集群，拥有的算力和用户当地资源根本不是同一个数目级，以是在天生式模子应用中拥有更快的天生速率和更好的运算精度。

而混淆运行模式则取两家之长，根据应用的具体需求，可以机动地在当地和云端之间分配盘算使命。比方，一些对相应速率要求高或必要即时处置惩罚的使命可以在当地实行，而那些对盘算本领要求更高的分析和学习使命则可以在云端举行。这种机动性使得AI体系可以或许更好地顺应差异的利用场景，提供更加定制化的服务。

起首，混淆模子在数据隐私和安全方面具有显着上风。随着数据泄漏变乱的频仍发生，斲丧者对于个人信息安全越来越关注。在混淆模子中，敏感数据可以在当地处置惩罚，不必传输到云端，这大大低沉了数据泄漏的风险。对于一样寻常斲丧者而言，这意味着他们可以更加放心地利用基于AI的应用，如智能家居装备和个人康健数据分析工具，无须太过担心个人隐私被侵占。

其次，混淆模子提供了更好的性能和相应速率。对于必要实时反应的应用，如语音助手和在线游戏，当土地算可以或许提供更快的处置惩罚速率，克制了因数据传输至云端而产生的耽误。而对于那些必要复杂盘算和大量数据分析的使命，好比图像辨认和大型语言模子，可以利用云端的强大盘算本领来处置惩罚，从而提供高服从的AI服务。对斲丧者来说，这种团结了当地快速相应和云端高效盘算的模式可以或许在差异场景下提供更加流通和高效的体验。

图片泉源：微软

机动性是混淆模子的另一个紧张上风。它答应斲丧者根据自己的需求和偏好来选择数据处置惩罚的方式。比方在家里，斲丧者大概更倾向于利用当土地算来处置惩罚个人数据，以确保隐私；而在外出时则大概更依靠云端服务来获取信息和娱乐内容。这种机动性使得混淆模子可以或许顺应差异斲丧者的多样化需求。

别的，混淆模子对于装备兼容性和更新维护也更加友爱。由于云端盘算可以提供最新的AI模子和算法，斲丧者不必频仍更换当地装备就能享受到最新的AI技能。同时，对于一些当土地算使命，旧装备依然可以有效运行，这镌汰了装备更新的压力，延伸了装备的利用寿命，对于注意本钱效益的斲丧者而言，这是一个紧张的上风。

以致微软自己也曾多次表现对混淆 AI 大语言模子的器重，在 8GB 内存的「死线」下，信赖微软也绝对有本领提供根本的 AI 决议本领，让 AI 大语言模子成为一项「普惠」功能。

不外思量到近几年闪存技能突飞猛进的发展，16GB 的基准线将来也大概成为办公电脑的标配，究竟这事关 AI 和「生产力」。信赖在 AI PC 的海潮眼前，16GB 内存很大概会成为 2024 年条记本市场的「起步设置」。

图片泉源：Apple

固然了，售价高达 12999 元却仍旧只有 8GB 内存的 M3 Macbook Pro 不在「AI 普惠工程」之内。