苹果智能语音助手Siri的安全性测试及风险分析 – 作者:四维创智4DOGS

一、背景分析

用户规模

自2009年苹果进入中国手机市场,已经长达10年的时间,并且早在2001年,苹果的iPod产品就已经在中国市场发售。苹果设备中以最受欢迎的iPhone为代表,占有20%左右的市场份额。

image001.jpg

据统计,苹果设备的总活跃用户数量正在强劲增长,即将超过15亿,这包括mac、iPhone和iPad。其中,大部分是iPhone,一位行业分析人士预测,到明年年初,iPhone活跃用户数量将达到10亿。苹果重新抢占中国市场的决心,根据最新的数据显示,iPhone11系列在上月的销量比去年同期增长230%,这意味着iPhone11系列将成为国内最受欢迎的智能手机“可见一斑。

image002.jpg表中的红线,可以看到所有苹果设备的增长,紫色的线表示iPhone的增长。

(来源:https://www.ithome.com/0/437/023.htm)

image005.jpg  

以上数据表明,苹果用户逐年攀升,国民消费理念正发生改变,对智能设备的期待值越来越高。智能设备已然成为消费领域持续增长的重要热点。

Siri简介

2011年10月,苹果发布iPhone4s,最为亮眼的功能便是加入了智能语音助手Siri,自此之后,苹果用户与Siri的互动也越来越强,让Siri帮忙设置闹钟,帮忙记录日程等等已经成为越来越多苹果手机用户日常生活中的一部分。SIRI是 SpeechInterpretation & Recognition Interface的首字母缩写,原义为语音识别接口,是苹果公司在苹果手机、ipad产品上应用的一个语音助手,利用Siri用户可以通过手机读短信、介绍餐厅、询问天气、语音设置闹钟等。

Siri可以支持自然语言输入,并且可以调用系统自带的天气预报、日程安排、搜索资料等应用,还能够不断学习新的声音和语调,提供对话式的应答。Siri可以令iPhone4S及以上手机(iPad3以上平板)变身为一台智能化机器人。目前Siri支持的所有功能,可访问Apple(中国)官方网站https://www.apple.com/cn/siri/进行查看。Siri得智能属性,使众多果粉热衷于与Siri进行互动,并通过Siri来进行日常功能的使用,其中安全性也成为使用过程中的必要考量。

二、问题描述

问题概述

初始状态下苹果设备语音助手Siri默认识别设备所有者声音用于唤醒功能,对于陌生人发出的唤醒指令无效。但经验证显示,通过设备所有者的录音,即可以立即唤醒设备,并由任何人发布操作指令,例如进行播放音乐、打电话等常用功能。

测试过程

目前支持siri的设备版本包括:

1-1.jpg1-2.jpg

本次测试机型: iPhoneX、iPhone7p、iPhone 8 

测试情况说明:

3.jpg

本次选取了三款机型进行测试。

首先,对测试对象进行Siri唤醒测试。三款Siri手机均能被各自机主唤醒,而无法被第三方(在前提是测试前无交流的情况下)唤醒。

然后测试机主间在经过10分钟密集型交流后,Siri能否接受第三方的唤醒指令并成功执行。经测试证明,苹果手机被其他机主唤醒的概率大大提升,甚至同一机主能同时唤醒三台不同型号的设备。

最后,我们测试在唤醒状态下(第三方唤醒),切换至声音与机主声音差距较大的人是否可以操控手机拨打电话和发送短信。测试结果表明:在唤醒状态下,第三方(包含性别不同的情况)均能发布指令。如何确保轻松快速的唤醒Siri,可通过录机主的唤醒声音来实现,亲测可得。

三、风险分析

Siri语音识别不具唯一性

SIRI作为苹果公司在苹果手机、ipad产品上应用的一个语音助手,为苹果设备的智能交互方面做出了极大的贡献。语音识别有两层含义,一层是接收到语音指令并执行,另一层是精准识别“谁的”声音。苹果Siri关于苹果系统默认只识别设备所有者用于唤醒和操作Siri,通过实际操作以及相关网络资料可见。

image006.png

 
网络资料:

2018年4月17日,多家媒体报道苹果在自家机器学习刊物《AppleMachine Learning Journal》上发表最新一篇文章,主要是关于用户在iOS设备上激活“嘿Siri”功能时的人性化过程。在这篇机器学习期刊的新文章中,苹果Siri团队讲述了引入“说话人识别系统(SpeakerRecognitionSystem)”的技术方法,声称为了给用户创造更人性化的设备,自家团队打造了“深度神经网络”,而此举将为Siri的迭代更新打下了基础。简单的说,苹果基本上确认的事实是:未来的iOS系统版本中,机器学习技术将会被引入Siri智能私人助理,用于精确识别设备所有者的声音。

资料来源https://www.ithome.com/0/437/023.htm

根据部分用户反映启用Siri时,即会呈现以下截图,会造成只识别设备所有者的误导。并且在首次使用iphone的情况下,的确只能识别机主声音,绝大部分消费者认为是唯一识别,这导致会有一定风险性存在。

image009.jpg  

通过网友的提问,可以反映出大部分人认为Siri是只能识别设备所有者声音而被唤醒。这意味着设备所有者可以基于零信任,给予设备常用的权限。

image011.jpgimage013.jpgimage015.jpgimage017.jpg

应用风险分析

通过测试苹果手机可知,苹果手机在锁屏状态下,通过Siri在锁屏状态下可以实现的操作有给指定人拨打电话、播放音乐、打开蓝牙等常用功能。看似常见的功能,却存在着极大的安全隐患。

image019.jpg

图片来自Apple(中国)官网

 电信诈骗 

利用Siri给指定人拨打电话或发短信,严重危害个人生命财产安全。这比以往通过设置***、以第三方手机号码冒充亲属、公安机关等传统手段具有成本低、见“效”快、成功率高的特点,应该引起足够的社会重视。

①严重侵害人民群众财产安全和合法权益

首先是涉案金额上,传统盗窃抢劫案多则几万元,不会涉及较大金额。而电信诈骗,尤其是能直接获取信任感的方式,例如直接用机主手机拨打电话进行诈骗。是以信任感为基础的诈骗手段,动辄就是几百万、上千万元,诈骗金额令人触目惊心。据相关统计,近10年来,我国电信诈骗案件每年以20%至30%的速度快速增长,2015年全国公安机关共立电信诈骗案件59万起,同比上升32.5%,共造成经济损失222亿元。2013年至今,全国共发生被骗千万元以上电信诈骗案件94起,百万元以上案件2085起。”电信诈骗屡打不绝,呈现迅速蔓延之态。全国接到诈骗信息的人数高达4.38亿,相当于每三个人中就有一个受到诈骗信息的“骚扰”。并且随着电信诈骗的不断蔓延,人民群众已提高安全意识,不轻易相信第三方发来的涉及自身利益的诈骗方法。但是百密一疏,安全意识的提高,相应的激发了更高明的骗术。直接通过机主手机拨打电话,再通过声音相似或者用目前新出现的语音模拟技术进行直接对话,带来的严重后果可想而知。

②严重影响社会稳定

电信诈骗由于犯罪成本低、风险小、回报高、易得手,很容易被效仿和传播,形成犯罪“黑色产业链”,诈骗后果也越来越恶劣。电信诈骗不但严侵害和威胁群众财产安全和合法权益,影响老百姓的安宁生活,更严重影响人们的安全感,扰乱了社会秩序,给国家安全和社会稳定带来极大隐患,到了触目惊心的地步。例如利用设备所有者(以下称所有者)亲属信息进行诈骗,例如与父母、兄弟姐妹直接通话或发送短信,以各种理由请求给指定账户汇款或谎称所有者被绑架进行敲诈勒索等危害财产安全的行为。更有甚者,也有可能进行蓄意人身侵犯。引发打击报复,性侵犯等不可挽回的严重损失。对于一个普通家庭来说,诈骗金额有可能是致命级别的,可能是全部,造成倾家荡产,家破人亡。而对于企业来说,上千万巨额资金被骗很可能造成整个资金链断裂,导致企业破产,动摇社会稳定的根基。电信诈骗受害者包括社会各个阶层,不管是涉世未深的准大学生,还是身为知识精英的名校教师不管是普通民众,还是企业老板、公务员,各行各各类人员都有可能成为电信诈骗的对象,性质非常恶劣,已成为严重影响社会稳定的突出治安问题。

image020.jpg

③电信诈骗导致严重信任危机

电信诈骗破坏了社会诚信,严重伤害了人与人之间的信赖关系,造成人与人之间没有安全感。即便是父母子女或者朋友的电话,都需要先质疑再确认。电信诈骗不仅给直接受害者带来财产甚至生命损失,也加剧了人与人之间的不信任,增加了社会运行成本。例如“提到公检法的电话律挂掉”等防骗指南,影响了国家机关等一些部门正常工作的开展。当直系亲属遇到困难时,由于不信任而挂断电话,错失救助机会等等。这些不仅损害国家机关的公信力,而且大大削弱了社会基本信任,危害远远大于一般的诚信缺失。

新技术应用,风险加剧

①Siri和捷径联合使用

捷径作为iOS推出的一款轻编程APP,可以让用户相对容易的进行编程,设置快捷操作。小编就学会了如何将Siri和捷径联合使用。只要和Siri说“晚安”,手机就会自动打开夜览模式、闹钟,关闭流量、WiFi,让手机进入勿扰模式等。早晨醒来再对Siri说“早安”,手机又会恢复原来的设置。

image022.jpg

②允许用户删除Siri历史记录,不可追溯

2019年10月11日消息,苹果在刚刚推送的iOS13.2的第二个测试版中,悄悄加入了一个新功能,允许用户删除Siri历史记录,以及停止对外分享自己数据的按钮。有分析人士表示,iOS13.2加入的“删除Siri历史记录,以及停止对外分享自己数据的按钮”功能,可以看作是苹果之前回应泄露用户隐私的又一个补救办法。但是这一功能从另一角度来说,却将不法分子利用Siri进行违法活动的历史记录一并删除,对追溯责任和刑侦工作带来一定难度。

历史风险

①2019年8月消息:苹果对Siri隐私问题道歉,将不再保留Siri互动录音

英国《卫报》(TheGuardian)曾报道称,苹果的承包商每人每天要监听约1000条Siri录音,并将其发送回苹果进行研究。报道称,苹果这样做是为了让Siri更好地满足用户的需求。对于这种行为,苹果8月2日宣布,已暂停使用承包商来监听Siri的录音,苹果不再需要总部位于爱尔兰的承包公司GlobeTech提供的服务。

8月28日晚间,苹果又发表声明称,隐私是一项基本人权,苹果设计的产品和服务是为了保护用户的个人数据。Siri是一款开创性的智能助手,其目标是为用户提供最佳体验,但前提是要保护好用户隐私。“我们意识到我们并没有完全实现我们的崇高理想,为此我们深表歉意。”

https://tech.sina.com.cn/t/2019-08-28/doc-ihytcern4309205.shtml

②2015年5月消息:Siri存在安全隐患,黑客可在5米内无声遥控

Siri,作为你的私人助理,却不一定只听从你的命令。法国的一组研究人员发现,Siri同样听命于黑客——在特定情况下,黑客们可以在5米之内通过无线电消无声息的遥控它。来自法国科技安全部的两名研究人员一直致力于信息安全工作,他们最近发现:通过无线电波,黑客可以无声的将命令输入到开启Siri或GoogleNow的iPhone或安卓手机中。当然有个前提——这台手机必须连接一根带有麦克风的耳机。黑客们可以利用这根耳机作为天线,然后悄悄的发送无线电波,这种无线电波被手机接收后被转化为电信号,系统会误认为是从麦克风传来的语音命令,无需说一句话,黑客们就可以遥控Siri或GoogleNow进行打电话或发短信,或通过手机浏览器打开恶意网站,也可通过Email,Facebook, Twitter等APP来发送垃圾邮件或钓鱼软件等等。

https://www.chiphell.com/thread-1385502-1-1.html 

③Siri曝隐私漏洞:锁屏也会读你的微信留言!

日前,Canthink网络安全研究团队曝光了iOS11 非常严重的bug,即便在锁屏状态下,长按Home 键或iPhone X 上的侧边按键,呼出Siri 后,也可以让它将新的通知消息念出来。

image024.jpg

 
根据内容显示:在iOS11系统中,当有新通知到来时候,可以在屏幕上显示有新通知,正常情况是需要解锁才能看到具体内容。不过Siri却可以绕过了解锁步骤,你只要启动Siri,喊它:“帮我读一下通知”,它就会直接读出锁屏上的隐藏消息内容。而除了苹果原生APP,很多第三方APP例如Whatsapp、Telegram、Skype等应用也纷纷中招。经过网友的实测,微信、QQ的新信息也能够在锁屏状态下完全读出。即便设置了消息在锁屏隐藏,Siri依然可以读出所有的内容。

绕过解锁步骤直接读取信息,这也就意味着,如果有人要求Siri读取手机通知,甭管这人是何身份是何居心,Siri都会大声阅读通过第三方应用发来的私密信息,让每个人都听到。如此一来,用户的隐私安全将无从谈起。http://www.sohu.com/a/226241725_404443

④Siri被曝新漏洞:不需要密码通讯录和照片就被看光了

腾讯科技讯据国外媒体报道,苹果数字助手Siri被发现存在一个新漏洞,该漏洞会导致不法用户绕过密码保护的锁屏界面而获得用户的联系人和照片等数据。从目前的情况来看,只有部分iPhone6s和iPhone6s Plus受到了该漏洞的影响。

这个新漏洞是由何塞·罗德里格斯(JoseRodriguez)发现的,他在去年9月发现了一个类似的锁屏漏洞。罗德里格斯最新发现的这个漏洞似乎只在特定情况下才有效。据他提供的概念验证视频来看,只有iPhone6s和iPhone6s Plus并且它们的Siri应用被设置成允许与Twitter、联系人和照片进行搜索整合时,这个漏洞才有用。

在示范案例中,用户或者非法用户可以通过长按Home按钮或者语音指令启动Siri,然后要求虚拟助手进行Twitter搜索。如果搜索结果包含可执行的联系人数据比如电子邮箱地址,用户或非法用户就可以利用3DTouch手势呼出相关菜单,继而发送电子邮件、添加或修改联系人信息。

在3DTouch的“快速操作”(QuickActions)菜单中,点击“添加到现有联系人”就可以打开iPhone的联系人清单。在适当配置下,用户或非法用户还可以进一步访问手机的照片库。

image025.jpg

https://tech.qq.com/a/20160405/043110.htm

⑤智能家居存在安全漏洞邻居可用Siri解锁你家的门锁

导读:iPad显然能够听到邻居从门外发出的指令,然后向August智能门锁下达了解锁指令。

image027.jpg

智能家居的初衷是让生活更安全、更高效,但要真正达到这一目的显然任重道远。据一位网名sportingkcmo的Reddit用户透露,邻居竟然可以直接通过语音指令打开他们家的智能门锁。

这位网友的房子配有一个August智能锁,这是一个可以使用手机和苹果HomeKit操作的蓝牙门锁,方便用户直接使用Siri与智能家电互动。

该用户称,他在客厅里设置自己的iPadPro,通过HomeKit与这个门锁相连。但不幸的是,这个设置过程开启了一个巨大的安全漏洞,让他明白智能家居技术可能适得其反:他的邻居来到他家借用调料时,竟然可以直接通过对Siri下达语音指令打开门锁。iPad显然能够听到邻居从门外发出的指令,然后向August智能门锁下达了解锁指令。(August智能门锁也支持亚马逊Alexa语音助手,所以可能也存在类似的漏洞。)

该用户和August均未对此置评。苹果则建议所有用户给设备设置密码。如果用户给iPad设置了密码,或许就可以避免这种情况的发生。此事引发了人们对智能家居系统安全性的质疑。将大门这个至关重要的家居组成部分交给电子产品来负责,似乎会带来巨大的安全隐患。语音控制的确令人感到惊喜,但至今仍属于新生事物,存在很多未知领域。在此事中,将语音技术与智能门锁系统整合后,便暴露出巨大的风险。

苹果2014年推出了HomeKit标准,并且逐步获得普及。在本月早些时候的iPhone发布会上,苹果CEO蒂姆·库克(TimCook)表示,仅今年一年就将有1亿多台HomeKit设备推出。从智能门锁到智能恒温器,再到智能灯泡,各种智能家居设备都可以用Siri来控制。

随着语音控制和智能家居的快速发展,类似的事件可能会越来越多地涌现出来,从而拖慢这项技术的普及速度。

https://news.znds.com/article/14027.html

来源:freebuf.com 2020-04-09 15:44:29 by: 四维创智4DOGS

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论