雷火电竞（中国）平台网站

雷火电竞2024 年亟需解决的AI引擎和软件开发安全问题

发布时间：2024-02-22 22:27:56 丨 浏览次数：950

　　随着AI应用的规模不断扩大以及大语言模型（LLM）的商品化，开发者越来越多地承担起将人工智能（AI）和机器学习（ML）模型与软件更新或新软件一起打包的任务。虽然AI/ML在创新方面大有可为，但同时也加剧了人们的担忧，因为许多开发人员没有足够的带宽来安全地管理其开发

　　安全漏洞可能无意中将恶意代码引入 AI/ML 模型，从而使威胁行为者有了可乘之机，引诱开发者使用开放源码软件模型变种，渗透企业网络并对组织造成进一步损害。甚至还有开发者越来越多地使用生成式AI来创建代码，却不知道自己生成的代码是否受到威胁的情况，这同样会导致安全威胁长期存在。因此，必须自一开始就对代码进行适当的审查，以主动降低软件供应链受到损害的威胁。

　　由于威胁行为者会想方设法利用AI/ML 模型，威胁将持续困扰着安全团队。随着安全威胁的数量不断增加，规模不断扩大，在2024 年开发者将更加重视安全性，并部署必要的保障措施，以确保其企业的弹性。

　　对于开发者来说，在软件生命周期初始阶段就考虑到安全性是一种相对较新的做法。通常情况下，二进制级别的安全性被认为只是“锦上添花”的存在。而威胁行为者会利用这种疏忽，寻找将ML模型武器化以对抗组织的途径，找出将恶意逻辑注入最终二进制文件的方法。

　　同样，许多开发者由于没有接受过必要的培训，无法在开发的初始阶段就将安全性嵌入到代码中。由此造成的主要影响在于，由AI生成并在开源存储库上训练的代码通常没有经过适当的漏洞审查，且缺乏整体安全控制来保护用户及其组织免受利用。尽管这可能会节省工作职能中的时间和其他资源，但开发者却在不知不觉中将其组织暴露在众多风险之下。一旦这些代码在AI/ML 模型中实现，这些漏洞利用就会造成更严重的影响，而且有可能不会被发现。

　　随着AI的广泛应用，传统的开发者角色已不足以应对不断变化的安全环境。步入 2024 年，开发者也必须成为安全专业人员，从而巩固 DevOps 和 DevSecOps 不能再被视为独立工作职能的理念。通过从一开始就构建安全解决方案，开发者不仅能确保关键工作流的最高效率，还能增强对组织安全性的信心。

　　如果安全团队要在新的一年里对威胁保持警惕，那么 ML 模型的安全性就必须持续发展演进。然而，随着AI的大规模应用，团队不能在软件生命周期的后期才确定必要的安全措施，因为到那时，可能就真的为时已晚了。

　　组织内部负责安全方面的高层必须以“左移”的方式进行软件开发。通过坚持此方法，即能够自一开始就确保软件开发生命周期中所有组成部分的安全，并从整体上改善组织的安全情况。当应用到AI/ML时，左移不仅能确认外部AI/ML系统中开发的代码是否安全，还能确保正在开发的AI/ML模型不含恶意代码，且符合许可要求。

　　展望 2024 年及以后，围绕AI和 ML 模型的威胁将持续存在。如果团队要持续抵御来自威胁行为者的攻击并保护组织及其客户，确保自软件生命周期之始就考虑到安全性将是至关重要的。

　　上一篇：MediaTek将于MWC 2024展示多项率先亮相的智能手机生成式AI应用

　　下一篇：Gartner：到2026年，30%的企业将因为AI生成的深度伪造而无法起到可靠的隔离作用

　　在近几年的科技发展议题中，除了持续强调巨量数据 (big data)之外，通常也伴随着人工智能 (AI)相关应用内容发展。不过，与科幻电影中具备自我思考的人工智能相比的话，目前人类技术所打造的人工智能效能似乎还未能与其相提并论，但似乎每个科技厂商都相当看重此项技术，甚至认为将使人类生活带来重大改变与成长。 就人工智能发展来看，最早在1953年间便开始有相关技术投入发展，而初期是利用计算机运算能力进行数据逻辑比对，在重复验证之后得出一个最佳合适解答。而在1980年至1990年之后，人工智能的设计才开始导入机率判断、经济学概念等设计，藉此处理不确定或不完整的信息，进而从中比对更合乎正常的判断结果。 不过，由于人脑运作模式仍

　　寒武纪创始人兼CEO陈天石近日表示，大陆想要崛起就要稳稳站住陆产的人工智能(AI)芯片指令集。AI是大陆崛起的一个好机会。 近日AI芯片新创企业寒武纪才刚宣布完成A轮融资，融资总额1亿美元，融资方的阵容包括领投方国投创业(国投集团子公司)、阿里巴巴、联想、国科投资、中科图灵，原pre-A轮投资方，元禾原点创投、涌铧投资也继续跟投。 寒武纪AI指令集已跨入手机 DIGITIMES于4月独家披露寒武纪研发了国际首个深度学习专用处理器芯片(NPU)，其IP指令集扩大范围授权集成到手机、安防、穿戴式设备等终端芯片中，2016年就约拿到人民币1亿元的订单。同时，业内也传出，华为海思的麒麟970芯片也将搭载寒武纪的AI芯片指令集，

　　显然，如果人工智能技术只是在天上飞，而不落地到实际应用中，一切都是伪命题。近年来，AI 市场异常火爆，许多新生的AI技术、应用公司如雨后春雨般出现，大家都雄心壮志地准备改变这个世界。但据 Gartner 和信通院联合编制的 2018 世界人工智能产业发展蓝皮书表示，AI 仍处于早期采用阶段，仅有 4% 的被调研企业已经投资并部署了AI 技术。怎样才能让 AI 真正的应用起来？宇观科技认为要从业务层面去思考人工智能产品的设计，而不是自己拍脑袋想做什么做什么。 宇观科技由来自丰田、富士通、索尼等企业的人才团队创立于 2017 年。其专注于计算机视觉、智能图像分析处理、生物识别技术的研究和开发，是从事平安城市、智慧社区、智能交通、大数据

　　据外媒报道，当地时间8月21日，人工智能情感智能（情感AI）全球领导者Affectiva宣布推出移动实验室。该实验室配备首款多模式驾驶舱内人工智能传感解决方案-Affectiva汽车人工智能（Automotive AI），将展示汽车人工智能如何使半自动和全自动驾驶车辆更安全、更愉快。 在美国，每天都有1000多人因驾车分心而受伤，因疲劳驾驶导致的致命撞车事故多达6000多起。在Affectiva移动实验室，参与者将亲身体验汽车原始设备制造商（OEM）和一级供应商如何使用Affectiva汽车人工智能构建先进的驾驶员监控系统（DMS），以防止疲劳和分心驾驶。 在该移动实验室内，车内摄像头会跟踪参与者的认知和情感状态。当车内摄像头

　　人工智能和机器学习是否可以检测消费者刷付银行卡？很多银行正在开发防止欺诈交易的系统和业务，以便银行可以在损害消费者利益之前通知并让其取得控制权。如今，从智能冰箱到自动驾驶汽车等一切都变得智能化，而银行业和金融服务在此方面也不甘落后。在未来几年，人工智能和大数据将彻底改变银行为客户提供服务的方式。 从创建更好的客户体验和提供个性化的财务建议，到自动化流程和管理工作以及降低组织的内部成本，银行可以通过利用人工智能和大数据而显著受益。以下是人工智能和大数据将在2019年改变银行业务的一些最有趣的方式。 1.防止透支费用和其他处罚 银行的很多客户觉得有必要制定自动储蓄计划，但如果出现意外收费将会导致透支。通过银行的人工智能解决方案，可

　　澳大利亚对人工智能的基础研究一直处于世界领先地位。澳大利亚联邦政府和州政府对人工智能研究的资金支持力度很大，重点支持直接与民生息息相关的项目，如交通运输、矿业开采、智能精细农业、医疗健康等，这对澳保持在人工智能领域的国际领先地位发挥了重要作用。 澳大利亚全国每天有上万辆无人驾驶的重型运输车辆在矿区、农场和港口等地作业；在物流方面，澳大利亚的机器人技术应用在世界处于领先水平，以布里斯班港为例，那里的集装箱作业已经实现了机器人化，27台巨型（高10米，重60吨）机器人昼夜不停地装卸运输货物；在农业领域，澳大利亚机器人中心研发的农业自动采摘和除草机器人使很多农场从繁重的体力劳动中解放出来；在环保领域，澳自主研发的水下机器人正在密切监测大

　　过去几年，FPGA的CAGR大约一直保持在8-10%左右，随着该类器件在AI应用中的扩张，未来5年其CAGR增长将高达38.4%！根据市场调研公司Semico Research的预测，人工智能应用中FPGA的市场规模将在未来4年内增长3倍，达到52亿美元。为了保持竞争力，目前全球有25%的企业实施了人工智能/机器学习（AI/ML），而两年内，这一比例将增长到72%，以更好地获得核心职能方面的商业洞察力。 图：企业AI/ML部署需求增长趋势 来源：WSJ pro 伴随这一趋势，AI的算法在不断演进，对数值精度的选择要求也更加多元，高效算力、高效丰富的存储缓存能力以及高效大带宽的数据运送能力，是AI/ML硬件解决方案所面临的

　　应用中的扩张大幅增长 /

　　日前，小米宣布旗下米家品牌的新一代全能扫拖 机器人 M30 Pro正式上市销售。此次产品升级主打“毛发切割”与AI算法提升两大卖点，分别针对长毛缠绕和环境识别两大用户痛点进行了创新。 通过新技术与新功能的加持，M30 Pro在扫拖一体化的基础上，更上了一个台阶. 一站式解决毛发缠绕难题 对于拥有宠物的家庭来说，地板与家具表面粘附的宠物毛发是最头疼的问题。它们容易缠在扫拖机器人的滚刷与齿轮上，严重影响清洁效果并缩短设备寿命。M30 Pro基座端集成了高强度不锈钢切割模块，可对缠绕的毛发进行主动“割断”，并用强力气流吸走，一站式解决毛发缠绕难题。 具体来说，M30 Pro的切割模块包括高速旋转的滚刀与线性往复运动的抛物线刀。两种刀

　　深入浅出神经网络与深度学习 (迈克尔·尼尔森（Michael Nielsen）)

　　MPS电机研究院 让电机更听话的秘密！ 第一站：电机应用知识大考！跟帖赢好礼~

　　电源小课堂 从12V电池及供电网络优化的角度分析电动汽车E/E架构的趋势

　　解锁【W5500-EVB-Pico】，探秘以太网底层，得捷电子Follow me第4期来袭！

　　Gartner：到2026年，30%的企业将因为AI生成的深度伪造而无法起到可靠的隔离作用

　　Gartner：预计到2026年，30%的企业将因为AI生成的深度伪造而认为身份认证与验证解决方案无法起到可靠的隔离作用根据Gartner公司的预测，到2 ...

　　通过此次的合作研发，打造专为中型eVTOL(电动垂直起降飞机）设计的电机产品，旨在雷火电竞官网 雷火电竞推动行业进步。面向消费者市场的eVTOL制造商AIR公司宣布与 ...

　　随着AI应用的规模不断扩大以及大语言模型（LLM）的商品化，开发者越来越多地承担起将人工智能（AI）和机器学习（ML）模型与软件更新或新软 ...

　　MediaTek将于MWC 2024展示多项率先亮相的智能手机生成式AI应用

　　2024年2月21日 – 作为每年为全球超20亿台边缘计算设备赋能的IC设计公司，MediaTek将参展2024世界移动通信大会（MWC 2024）。基于天玑93 ...

　　Alat埃耐特与大华技术股份合作，在沙特阿拉伯建立全球AIoT视觉中心型产品和解决方案业务

　　Alat 埃耐特和大华技术股份投资 2 亿美元建立以视觉为中心的全球产品业务，并在沙特阿拉伯建立先进的制造工厂2024年2月20日，沙特阿拉伯 ...

　　研华首款国产雷火电竞官网 雷火电竞Type7核心模块SOM-GH590，搭载海光3000系列处理器，助力网络应用“芯”升级

　　MQTT协议为Softing工业安全集成服务器的连接性和安全性设定新标准

　　纳芯微推出NSI22C1x系列隔离式比较器，助力打造更可靠的工业电机驱动系统

　　Nordic Semiconductor推出 nRF9151 SiP扩展 nRF91系列

　　最后一周：免费获取Pasternack《RF产品选型指南》2018 印刷版！

　　有奖直播 微软 Azure Sphere助力稳定，安全和灵活的物联网解决方案

　　站点相关：传感器/仪表信息处理嵌入式系统PLC传动与执行工业通讯工控设备其它技术综合资讯能源管理节能减排工控百科工控论坛