账号:
密码:
CTIMES / 文章 /   
当eFPGA遇上边缘AI的颠覆式创新法
万物智慧化 AI安全隐??及AI道德须受到重视

【作者: 林佳穎】2022年05月24日 星期二

浏览人次:【7354】
  

後疫情时代的2022年,又再度推动着人们迈向更智能科技的生活模式。基於隐私问题、通讯安全及频?效率等考量,因而孕育了在边缘装置上进行AI运算的需求。也就是近日的热门话题之一边缘AI。


当硬体设计同时要加入AI运算时,设计的模式更加重视软硬整合的需求,尤其若是在边缘装置中要进行大规模的模型训练及处理,而这就涉及到大量的运算,例如开发视觉型物件侦测时,就需要透过神经网路推断模型来处理多步骤流程。


这样的情况下,一个实用的高速推断功能,它必须兼具灵活性、效能和节能这三个条件,才能扮演好边缘AI运算的角色。其中目前市面提供的解决方案之中以??eFPGA有机会异军突起,颠覆传统设计的极限。


eFPGA设计新思维让灵活性更上一层楼

Embedded FPGA(简称eFPGA),在边缘运算的优势是它的IP核心可以内嵌在订制的SoC或ASIC上,此外它能客制化所需的逻辑、DSP和储存器数量,也可以客制化调控尺寸大小及I/O端囗数量。它的灵活性摆脱了传统FPGA需要全定制电路设计的??缚,也让边缘AI运算需求保有极隹的弹性。目前笔者所了解到有提供eFPGA服务的厂商共有八家(如图一),其中Flex Logix公司是唯一一家纯硬体eFPGA的公司,可说是专注在edge运算的专家。他们独特的技术据说可以让工作负载的速度提升至30~100倍。



图一 :   提供eFPGA服务的厂商共有八家,Flex Logix公司是唯一一家纯硬体eFPGA的公司。
图一 : 提供eFPGA服务的厂商共有八家,Flex Logix公司是唯一一家纯硬体eFPGA的公司。

「机器学习是一种非常不同的软体开发方法,与我们大多数人习惯於编写C语言、Python等等是不一样的方式。它着重的是在这些模型框架中的数据和训练。因此,软体方面也已有所改变以支持这个需求。」Flex Logix资深产品管理总监Sam Fuller表示。单靠处理器来进行运算虽然可行,但在边缘装置中需要因应环境及情境的使用而有尺寸及频?流量的限制,有效进行资料推断处理的效率及节能是一大挑战。


Sam继续说道:「我们实际上提供了另一种新模式,将执行、推理执行与开发环境分开。当我们开发这些模型并在上面训练它们的系统。与我们实际部署的系统是不同的,因为它们在最隹化点方面完全迥异的。所以这让我们可以构建一个非常高效且极具成本效益的部署平台,因为不需要在同一系统上进行训练和开发。 这是我们产业一个重要的全新概念,但我认为人们理解这一点是绝对重要的。」


Edge AI应用广泛 定制型小尺寸低功耗晶片吃香

而谈到eFPGA与GPU及TPU的差异,Sam表示:「大部份 GPU在进行应用推断工作负载的处理时是32 位浮点为主,而大多数边缘AI 的推断工作都是 8 位整数运算类型。所以数据集是不同的设置且操作类型不同。」因此,当需要将特定设备用於边缘 AI 推断时,使用专用定制型且小尺寸及低功耗的晶片,其性价比会更加理想。


根据Sam的分享,Edge AI目前主要应用以工业领域最多,尤其是影像相关的需求为主。另外近年越受重视的自驾车,举凡一般汽车、货车或堆高机等等的应用也有大量成长。而在城市的交通路囗安全管理系统、农业区域性精确施肥需求及零售业环境等都已有不少正在进行中的应用。


Flex Logix IP业务、行销及解决方案架构??总裁Andy Jaros表示:「我们看到很多客户开始采用 eFPGA,尤其是开发晶片的光罩成本越来越高,而 eFPGA让晶片设计师可以灵活地在任何设计周期中进行修改,因此这是一种节省数百万美元的方法。」


图三 :   Flex Logix IP业务、行销及解决方案架构??总裁Andy Jaros。
图三 : Flex Logix IP业务、行销及解决方案架构??总裁Andy Jaros。

AI道德及偏见问题考验开发者智慧

然而,近期AI的快速发展,也引起了不少隐??。例如不同种族可能导致机器学习结果的偏差,以及AI的自主学习会否违背人性道德原则,还有究竟该如何信任AI?对此,Sam表示:「当我们进入机器学习训练系统时,不论是更高水平的人工智慧与否,我们也必须先认知它们并不是百分之百的正确。当我们在AI系统中工作或仅只是机器学习系统中,一切都是概率性的。」


对此, CTIMES黄俊义社长也持同样的看法。他提到,机器处理的瑕疵是必须接受的,并接续处理所产生的问题。而在安全机制??部份都应该有一套最高指导原则来审视。「edge AI也就只是一种演算法,仅止於在一定范围内的知识系统内做处理判断,如果太执着於AI的处理,都将会给人文带来冲击,变成人并非按照自己的本性来判断,这是不符合真正的本质的。」黄社长强调。


图四 :   CTIMES黄俊义社长。
图四 : CTIMES黄俊义社长。

边缘AI的快速发展让Tiny brain in everything成真。而eFPGA如同涡轮引?


般,将让边缘AI的开发更加速普及。但是科技始终必须回归人性。AI演算法对道德的挑战将是下一阶段的重要课题。



图五
图五
  相关新品
Arduino Motor Shield
原厂/品牌:RS
供应商:RS
產品類別:
mbed
原厂/品牌:RS
供应商:RS
產品類別:
Arduino
原厂/品牌:RS
供应商:RS
產品類別:
  相关新闻
» PI推出三相BLDC驱动软体 将与Motor-Expert Suite搭售
» IDC:家用需求疲软但商用需求良好 第一季PC显示器表现持平
» 微软推出永续云 成立台湾ICT永续绿战队加速净碳
» 联电科学基础减碳目标向前进 率先晶圆专工业通过SBTi审核
» 田中贵金属工业协助提升半导体微细化及耐久的??成膜新制程
  相关产品
» ROHM推出第4代FRD RFL/RFS系列 实现低损耗和低杂讯特性
» 意法半导体推出嵌入机器学习内核心车规级惯性测量单元
» ST推出高带宽共模滤波器 可防止天线接收灵敏度干扰
» Molex Quad-Row板对板连接器 建立节省空间连接新标准
» 瑞萨推出适於物联网应用新系列智慧型感测器解决方案
  相关资源
» Power Management Solutions for Altera FPGAs


刊登廣告 新聞信箱 读者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2022 远播信息股份有限公司版权所有 Powered by O3
地址:台北市中山北路三段29号11楼 / 电话 (02)2585-5526 / E-Mail: webmaster@ctimes.com.tw