设为首页 - 加入收藏
您的当前位置:首页 > 龙岩市 > 高通做出让 AI 开发者兴奋的决定-多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版 正文

高通做出让 AI 开发者兴奋的决定-多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版

来源:高通做出让 AI 开发者兴奋的决定-多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版 编辑:龙岩市 时间:2022-09-01 16:17:40

多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版如果你问AI边缘芯片公司最难的是什么,他们很可能会说应用场景太多太复杂。

多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版如果你问开发者使用 AI 芯片最难的是什么,他们可能会说没有统一的开发平台。

多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版如果你问消费者他们对使用 AI 最大的感受是什么,他们可能会对 AI 的智能程度表示一些不满。

多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版AI已经在智能手机中普及,但AI的体验并不完美,AI的功能也不够强大。要想体验优秀的AI功能和产品,必须从底层硬件到上层软件和系统进行深度融合。

所有的 AI 芯片公司都在谈论自己产品的优势,但即使是有能力和有经验的 AI 开发人员,如果他们想将开发应用到不同的产品上,总是需要大量的迁移工作,这也是非常重要的。在一定程度上阻碍了人工智能的普及和进一步创新。

芯片公司都想解决这个问题。 Qualcomm今天提供的最新解决方案是Qualcomm AI Stack,它包括硬件、软件和工具,以便OEM或开发人员一次开发就可以将其应用到智能设备上。智能互联边缘产品,如手机、物联网、汽车、XR、云和移动PC。

这足以让开发人员兴奋“构建一次,随处运行”。

但要实现这一目标,面临诸多挑战。 Qualcomm Technologies产品管理副总裁Ziad Asghar指出,“AI在不同场景下对功耗要求、模型类型、模型部署方式不同,不同业务在精度、功耗等方面对平衡的要求也不同, “和延迟。它们也是不同的。例如,XR应用所需的手势跟踪、眼睛跟踪和3D重建AI模型与汽车领域所需的激光雷达AI模型有很大不同,它们的精度要求也有很大不同。”

Qualcomm Technologies 技术副总裁 Jeff Gehlhaar 表示,“如何让我们所有不同的 IP 拥有相同的访问权限,让每个 IP 都可以统一选择相应的解决方案,这是一个重大挑战。”

高通最终推出了AI软件栈产品组合,将底层硬件与上层软件和工具优化相结合,仅通过统一的AI软件栈实现跨硬件平台运行。

这是一项非常具有挑战性的工作。如果要一次性开发跨平台操作,首先需要支持不同的操作系统,包括Android、Windows、Linux、QNX等联网汽车。在系统软件层面,它必须能够完全支持系统接口、加速器驱动和仿真支持。在开发人员库和服务级别,它应该能够支持数学库、编译器和虚拟平台。它还支持分析器和调试器,以帮助开发人员了解 AI 模型在开发过程中的使用情况,以及在硬件方面应该使用哪些权重进行分析。此外,还支持编程语言和核心库。

“基于Qualcomm AI Engine Direct,可以实现上述所有Qualcomm AI软件。” Ziad Asghar 表示,“Qualcomm AI Engine Direct 可以看作是一个底层库,可以在最接近模型或硬件的软件中进行编辑,充分释放硬件性能,确保最高峰值性能。Qualcomm AI Engine Direct 运行 AI运行时帮助 OEM 和客户更高效地完成更多 AI 用例。AI 运行时还支持广泛使用的 Qualcomm 神经网络处理 SDK、ONNX 运行时以及 TF Lite 和 TF Lite Micro、Direct ML。顶层是包括 TensorFlow 在内的 AI 框架、PyTorch 和 ONNX。”

Qualcomm AI 软件堆栈还支持一系列工具套件,包括 Qualcomm AI 模型增强工具包 (AIMET)、AI 开发图形用户界面 (GUI)、用于增强量化和优化的模型分析器以及神经网络架构搜索 (NAS)。

Qualcomm AI Model Enhancement Toolkit(AIMET)提供模型量化和模型压缩技术,可以进行量化感知训练和无数据训练,将浮点运算模型转换为整数运算模型。点模型转换为8位整数模型,模型能效最高可提升4倍。

此外,高通 AI 软件堆栈支持包括 Prometheus、Kubernetes 和 Docker 在内的基础设施。

高通AI软件栈可以支持很多SDK,比如面向汽车ADAS解决方案的骁龙Ride SDK、面向物联网的高通智能多媒体SDK、骁龙Spaces XR开发者平台,这也为高通建立统一的SDK奠定了基础。

Ziad Asghar 告诉雷锋网(公众号:雷锋网),“要实现为单个终端开发的任何 AI 功能都可以轻松部署到其他终端上,编译器确实很关键,但它只是众多组件之一。 ,除了模型准备和优化、调度器、硬件调试,以及如何保证软件能够充分利用硬件资源等等,这些因素都非常重要,我们需要保证这些组件协同工作才能运行有效率的。”

正因为如此,高通新发布的AI软件栈要真正实现其愿景,还有很长的路要走。高通不仅面临软件复杂度大幅增加的挑战,还需要进行大量细致优化才能与客户沟通。只有紧密合作,才能最终实现愿景,这需要时间,需要持续的投入。

但如果高通的AI软件堆栈成功,不仅是其统一技术路线图战略的成功,也是其在AI市场取得巨大成功的关键。

雷锋网原创文章未经授权禁止转载。有关详细信息,请参阅重印说明。

即胜体育·(中国)官方网站

Copyright © 2016 Powered by 高通做出让 AI 开发者兴奋的决定-多宝体育app官方网站app下载官方版,多宝体育官方appios苹果最新app手机版

Top