星期日, 26 10 月

Arm SME2技术 加速Android AI升级

随着人工智慧(AI)工作负载变得日益复杂,且广泛应用于各个领域,Arm推出可扩展矩阵延伸指令集 2(SME2)技术,以直接在行动CPU上加速高强度的矩阵运算工作负载。

SME2是Armv9架构中的一组高阶CPU指令集,它是基于SME升级、能够在AI异质运算框架下,支援影像处理、自然语言处理、语音生成等在行动端的即时推论任务。

SME2已在Google专为Android系统最佳化的神经网路推论函式库XNNPACK中提供支援。此外,SME2也被整合至多个框架中,包括阿里巴巴MNN、Google LiteRT和MediaPipe、微软ONNX Runtime,以及llama.cpp。

搭载SME2强化硬体的Android新机即将上市,开发者可率先透过硬体加速使AI效能跃升。同时,SME2已支援最新的iOS装置(完整支援机型列表详见此处),只要其应用中使用整合SME2的AI框架,效能即可自动提升。

Arm推出SME2 技术,加速 Android AI 升级,驱动行动应用之次世代...
Arm推出SME2 技术,加速 Android AI 升级,驱动行动应用之次世代功能革新。图/Arm提供

$(document).ready(function () {nstockStoryStockInfo();});