苹果最新发布的A20 Pro芯片展现了其在本地人工智能处理领域的强大性能。最新测试表明,搭载该芯片的iPhone 18 Pro在本地运行370亿参数的AI模型时,速度是前代iPhone 17 Pro的两倍,激发了外界对手机本地AI能力的极大兴趣。这项测试由开发者Adrien Grondin进行,展示了名为Bonsai 27B的AI模型,在不依赖云服务器的情况下,设备能够直接在本地完成推理,响应速度显著提升。
A20 Pro芯片的性能提升得益于其全新的人工智能硬件架构,它首次采用了双16核心神经网络引擎设计,使得总共拥有32个神经网络处理核心,这是苹果芯片历史上首次引入双神经网络引擎。此外,iPhone 18 Pro和iPhone 18 Pro Max配备了更高效的12GB、96位位宽的LPDDR5X内存,相对前代产品而言,拥有更快的数据传输速度和更大的数据处理能力。
测试结果表明,新的神经网络引擎与更快的内存系统相结合,在运行大规模语言模型时显著提升了Token生成速度。这意味着依赖本地推理的AI应用将获得更快响应和更顺畅的用户体验。然而,尽管A20 Pro已使iPhone进入能够运行270亿参数模型的新时代,但本地内存容量依然对AI应用构成限制。例如,最新的Bonsai 2模型即使经过2比特量化压缩,其体积仍过大,无法在iPhone 18 Pro的内存中完全加载,从而影响性能。 千亿球友会
当前手机AI发展中存在一个现实问题:虽然计算能力迅速提升,但内存容量与模型规模之间的矛盾依然明显。即便芯片性能再好,如果模型无法完全装入内存,仍会影响实际运行效率。相比之下,首代Bonsai模型因其较低的资源需求,能够在仅有4GB内存的设备上运行,在8GB或12GB内存平台上则能展现更优表现。
从硬件配置来看,A20 Pro不仅具备双神经网络引擎,还支持高达115.2GB/s的统一内存带宽。一些测试显示,在针对神经网络优化的任务中,A20 Pro的性能甚至超越了其内部的7核心GPU。这反映出苹果正在加速推进其“设备端AI”战略,本地AI相比较于依赖云服务,带来了更快的响应时间、更强的隐私保护及离线使用能力,这些都是苹果近年来的重点发展方向。
随着生成式AI成为智能手机的重要功能,手机厂商的竞争正向本地AI推理能力转变。A20 Pro的表现意味着智能手机已经具备运行数十亿到数百亿参数模型的能力。然而,随着模型规模的不断扩大,内存容量仍可能成为未来发展的主要制约因素。分析师指出,若苹果未来在iPhone中进一步提升内存配置,则设备端运算更大规模AI模型的能力将持续增强,而手机在独立AI计算平台中的角色也会愈加重要。 千亿球友会