随着人工智慧(AI)工作负载变得日益复杂,且广泛应用于各个领域,Arm推出可扩展矩阵延伸指令集 2(SME2)技术,以直接在行动CPU上加速高强度的矩阵运算工作负载。
SME2是Armv9架构中的一组高阶CPU指令集,它是基于SME升级、能够在AI异质运算框架下,支援影像处理、自然语言处理、语音生成等在行动端的即时推论任务。
SME2已在Google专为Android系统最佳化的神经网路推论函式库XNNPACK中提供支援。此外,SME2也被整合至多个框架中,包括阿里巴巴MNN、Google LiteRT和MediaPipe、微软ONNX Runtime,以及llama.cpp。
搭载SME2强化硬体的Android新机即将上市,开发者可率先透过硬体加速使AI效能跃升。同时,SME2已支援最新的iOS装置(完整支援机型列表详见此处),只要其应用中使用整合SME2的AI框架,效能即可自动提升。

$(document).ready(function () {nstockStoryStockInfo();});