北京
IT时代网9月20日消息，苹果 A20 Pro 芯片搭载双 16 核神经网络引擎，这在苹果自研芯片的发展史上尚属首次。该神经网络引擎专为处理人工智能运算负载打造，官方称其性能超过此前所有 SoC。
最新演示显示，一台 iPhone 18 Pro 运行 270 亿参数模型时，速度可达 iPhone 17 Pro 的两倍。网友阿德里安·格龙丁在 iPhone 18 Pro 上运行了 Bonsai-27B 模型，模型生成词元的速度相当可观。
硬件层面的支撑来自内存。iPhone 18 Pro 与 iPhone 18 Pro Max 均配备 12GB、96 位位宽的 LPDDR5X 内存，速度相比上一代明显提升，内存带宽可达 115.2GB/s。在此基础上，双 16 核神经网络引擎在神经网络专用任务下的峰值吞吐性能，甚至超过芯片内部的 7 核 GPU。
大模型也有取舍
能离线跑更大的模型是一大进步，代价也随之而来。有讨论提出，既然 Bonsai 2 已经发布，是否还有必要继续使用初代 Bonsai，答案并不乐观：Bonsai 2 采用 2 比特量化，体积过大，无法完整存入 iPhone 18 Pro 的本地内存，运行时反而会掉性能。而初代 Bonsai 是 1 比特量化模型，4GB 内存设备就能跑起来，8GB 乃至 12GB 内存的手机运行更流畅。
按现有硬件，运行 Bonsai-27B 可以保持高速，不会出现降速卡顿。若后续机型继续加大内存规格，本地能支持的模型参数量与复杂度还将往上走。
注：本文综合自IT之家等，文中包含AI辅助创作的内容。
编辑：林一舟
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
