红星资本局12月8日消息,日前,不少网友在社交平台上反馈,搭载豆包手机助手的nubia M153工程机(下称“豆包手机”)在登陆微信、支付宝、淘宝等应用时受到限制。
伴随着访问受限,豆包手机助手所获得的系统级权限引发对操作安全的担忧。豆包手机助手曾在12月3日回应称,豆包手机助手需要用户主动授权,才可以调用系统级权限,使用操作手机功能。并强调,不会代替用户进行相关授权和敏感操作。
有人工智能从业者表示,开放给智能体的权限越高,其智能化程度才能越高。但也有网络安全领域人士表示,智能体调用系统级权限将带来两大核心风险,一是权限的无边界扩张,二是行为主体的模糊化。
对流量的捍卫或是互联网大厂限制豆包手机助手访问的另一重考量。360集团创始人周鸿祎日前谈及豆包手机助手时表示,其搭建的跨平台通道,会直接冲垮互联网大厂的护城河,可能会引发一场互联网大厂技术攻防战。
多个App限制豆包手机助手访问
豆包手机是中兴通讯和字节跳动共同开发的AI手机产品,于12月1日正式发布。其中一大亮点是,豆包AI直接嵌入操作系统底层,能跨应用操作用户的指令。比如,只要发出“在全网比价下单某款洗发水”的指令,数秒时间内,豆包手机助手就能横跨多个购物平台,完成比价,给出最终购物指引,用户只要接手支付环节即可。
不过,豆包手机发售不久,先后有APP限制豆包手机助手的访问。最先对豆包手机助手“亮起红灯”的是微信。据豆包手机助手,12月2日晚,多位用户反馈,在nubia M153上使用豆包手机助手操作手机功能时,如果涉及操作微信,会出现微信异常退出,甚至无法登录的情况。
之后数天内,电商APP先后限制通过豆包手机助手登录应用。据网友晒图,使用豆包手机助手的情况下,淘宝登录页面显示“登录环境存在异常,为了账号安全,请更换设备重新登录”;支付宝登录界面显示“访问被拒绝”;拼多多界面显示“暂时无法登陆,请稍后重试”。
此外,据公开报道,豆包手机用户在使用农业银行、建设银行APP时,会被弹窗提醒“检测到设备正使用屏幕共享”,并建议用户退出共享后再使用APP。
图源网友“直角大王王十一”
据澎湃新闻,就微信限制豆包手机助手访问,微信相关人士曾给出解释,可能是触发了本来就有的安全风控措施。豆包手机随即下线手机助手操作微信的能力。据悉,目前豆包手机助手可以正常使用微信,但是手机助手不再支持操作微信。
此外,12月5日,豆包手机助手发文称进一步限制金融类应用的使用,“银行、互联网支付等金融场景,直接关联用户的资金安全,虽然手机助手在敏感操作时都需要用户授权,但审慎起见,豆包手机助手也将暂时下线操作这类APP的能力”。
智能体调用系统级权限
是把“双刃剑”
伴随着访问受限,豆包手机助手所获得的系统级权限引发了对操作安全的担忧。
红星资本局注意到,豆包手机助手跨应用操作能力的实现依赖于获取INJECT_EVENTS,即:注入事件权限。该权限为系统级权限。
人工智能行业人士肖雪松告诉红星资本局,权限等级决定了智能体的智能化程度,如果想要智能化程度越高,那么就要尽量授予它更多的权限。此外,重要的是授权取决于用户的个人选择。
红星资本局注意到,12月3日,豆包手机助手在回应市场关切时表示,豆包手机助手需要用户主动授权,才可以调用系统级权限,使用操作手机功能。目前行业的AI助手,也均需要使用该权限(或与其类似的无障碍权限)才能提供操作手机的服务。豆包手机助手还强调,不会代替用户进行相关授权和敏感操作。
有网络安全领域人士认为,权限升级是把“双刃剑”。据科技日报,北京汉华飞天信安科技有限公司总经理彭根表示,智能体调用系统级权限带来了两大核心风险:一是权限的无边界扩张。传统权限具有单一性和规定性,一把钥匙开一间屋子的锁,系统级权相当于拥有的是整栋大楼的钥匙;二是行为主体的模糊化。AI成为实际操作主体,其操作速度也远超人类反应速度,用户可能失去对设备的直接控制。
此外,仅仅来自用户方面的授权可能不完整。据科技日报,对外经济贸易大学法学院教授、数字经济与法律创新研究中心主任许可表示,在现实的案件中,存在类似的法律困境:AI助手声称是用户权利延伸,但平台认为其行为破坏了商业生态和安全秩序。因此,他认为,“在很多情况下,用户权益和平台权益都需要考虑,需要双重授权甚至多重授权”。
智能体和硬件设备结合是大势所趋
现阶段面临安全和隐私保护的担忧
对流量的捍卫或是互联网大厂限制豆包手机助手访问的另一重考量。
日前,360集团创始人周鸿祎在个人视频账号谈及豆包手机助手时直言,其会直接冲垮互联网大厂的护城河。“淘宝、美团靠用户停留和广告赚钱,现在AI帮用户直接完成任务,不用看广告,不用刷首页,APP核心KPI彻底作废,传统流量逻辑面临崩塌”。
周鸿祎预测,接下来可能会看到一场技术攻防战:各大APP可能会调整页面结构,让AI读取信息更困难,给价格加上动态验证码,或者把关键信息藏在更复杂的交互里,电商APP也许会限制第三方调用服务,逼着用户必须走进“城堡”才能使用。他还表示,要不了多久,可能会看到阿里、腾讯、美团这些大厂抱团,推出联合防御协议,一起限制AI跨App调用。
尽管可能面临重重挑战,围绕豆包手机及其代表的AI助手,不少业界人士还是报以乐观看好的态度。肖雪松告诉红星资本局,他认为智能体和硬件设备的结合是大势所趋,而AI手机有潜力成为最便捷的个人辅助AI产品。虽然现阶段面临数据安全和个人隐私保护层面的担忧,但这些问题并非不能解决,业内各个领域也在推进相关研究中。
4日,罗永浩在微博中也表示,AI 助手一定会遍地开花,并对字节跳动的尝试予以肯定:“豆包手机能不能成我不知道,但字节尝试走出这第一步,是非常了不起的,必须点个赞。”
截图自罗永浩微博
此外,据澎湃新闻,中国社会科学院大学互联网法治研究中心主任刘晓春表示,在获得用户明确授权、确保个人信息处理等行为合规的前提下,AI代替用户访问第三方应用,是用户意志的合法体现。AI智能代理行业尚处初期,技术与规范尚在探索。对这类创新技术,需以包容审慎态度,在精准规范风险的同时为创新留出空间,助力行业良性发展。
红星新闻记者俞瑶 符小茵
编辑 肖世清
审核 冯玲玲