毫无人性!人工智能才是社会工程的克星
首页 » 牛闻牛评 » 毫无人性!人工智能才是社会工程的克星
作者:星期四, 一月 2, 20200

我们仍处于人工智能 (AI) 的早期阶段,但 AI 正快速成为企业防御自身的关键方法。利用高级算法,企业可以改善事件响应,监视潜在威胁,识别威胁信号。但 AI 的一个重要优势被忽略了,人工智能可以发现人类分析师容易忽视的漏洞。

很多公司企业都尚未发挥 AI 在网络防御中最为重要的应用:缺乏同情心,俗称 “没人性”。

捕获你的信任

社会工程由精于电话或电子邮件技巧的人发起并执行,并不需要高大上的黑客技术。相反,黑客耍弄的是客服代表或持有所需信息的任何人,骗取双因子身份验证绑定的手机号,或套取有利可图的游戏账户密码之类的信息。FBI 互联网犯罪投诉中心声称,商务邮件入侵 (BEC)——一种流行的社会工程方法,仅 2018 年一年就造成了超过 12 亿美元的损失。

尽管银行和其他高价值实体可能是主要目标,但没人能够免疫此类攻击。一名妇女在黑客成功迫使其无线运营商激活一张新 SIM 卡后,损失了价值 3 万美元的加密货币,因为那张新卡被用于盗取她各类金融账户的双因子身份验证凭证。另一起事件中,Ubiquiti Networks 遭黑客假冒其高级员工,说服其财务部门完成了大笔资金转账,损失了 3,910 万美元。

甚至就连奖励计划这么无伤大雅的东西,都有可能招来恶意黑客的兴趣。公司企业目前通过培训员工,设置员工应该随时遵从的一系列规程,来处理该问题。

但遗憾的是,网络安全链中最弱的一环并不是防火墙,而往往是人本身。客户服务业务中希望取悦对方的那些人。他们往往不照着脚本办事儿,还容易受话术高明的骗子影响。只要黑客声称自己遗失了酒店积分卡,申请再发一张到家中,然后问资料中留的是哪个地址,服务台工作人员可能就为他效劳了。于是,陌生人就掌握了特定客户的私人信息。

切断通路

如果在客服人员之前先遇到的是人工智能,尤其是对话式 AI,那结果可能就完全不一样了。全球最大游戏公司之一最先体验了这种方式,决定使用对话式 AI 作为前端聊天代理。该公司以诸多成功视频游戏版本而闻名,部署了 Amelia 接管客户的简单游戏问题。该公司觉得 Amelia 可以减少客户等待问题解决的时间,Amelia 也确实实现了该公司的这一目的。但工作一段时间后,Amelia 还注意到通话者有时候会在没有正确识别信息的情况下索要账户访问权,由此检测出网络钓鱼者。游戏世界中置入了真正的金融功能,绑定了金融账户信息,风险是相当高的。人类客服很容易被诱骗交出账户凭证。Amelia 却绝不会被煽情故事打动。

Amelia 严格遵循公司策略做决策,不会落入社会工程技巧的陷阱。她仅仅想要证明你是你自己宣称的那个人,通过遵照脚本和在遭遇风险行为时引入新的身份验证方法来保证这一点。

初始推出即获成功,至少部分成功。Amelia 解决客户投诉的耗时比人类员工要少,还在此基础之上减少了虚假账户使用,但是客户满意度下降了。消费者怎么会不喜欢可以阻止他们账户信息被盗的 AI 呢?

仔细看过 Amelia 和客户在正常聊天和升级聊天过程中的对话转录后,原因就明朗了。Amelia 严格遵从规程,不让自己被黑客牵着鼻子走,黑客就故意给差评,而游戏公司服务中心则给她好评。

实时才是王道

即使不在客户服务环境中,对话式 AI 也能给威胁评估人员带来竞争优势。高级对话式 AI 不是定期和离线扫描数据或监视威胁,它能够实时分析数据和行为,捕获互动上下文。如果用户想要他的余额,高级对话式 AI 会捕获其正确含义——在基于他所提供的信息验证了其身份之后。由于数据在后端在线处理,前端对话式 AI 能给人一种真实的一对一交流的自然感觉。

AI 能够实时评估对话,具备处理每个威胁评估措辞的能力,是个非常强大的工具。如果可疑客户的表现偏离常规太远而构成风险,对话式 AI 能够识别出来,并且采取恰当的行动。这些行动可能仅仅是增加额外的身份验证步骤那么简单。

如果没有 AI,那可能就只有在对话结束后再审查是否有欺诈的迹象了。那时恶意黑客都可能已经卷款逃走了。但如果是由 AI 而不是由真人来进行对话,AI 就可以观察所有发生的事情,分析每个词,围绕威胁、风险和安全作出实时决策。

占据主导

社会工程跟基于暴力破解算法的软件攻击一样,都是黑客攻击之源。无论攻击的是酒店、游戏发行商,还是其他什么机构,黑客总在搜索可以让他们进入目标网络的信息。但他们无需执行高度复杂的攻击来获取自身所需;他们只需要一个动人的故事,一点点耐心,和一名愿意破例的客服中心工作人员。

通过让对话式 AI 在前端聊天中占据主导,公司企业能够缓解社会工程导致的潜在破坏。这项工作可以,也应该,在对客户干扰尽可能少的情况下实施。事实上,你的客户甚至都不应该会去想对话另一头的人是谁。他们只应该简单地输入查询问题,然后获得自己想要的,再继续其他事项。毕竟,这种便利性不就是我们设想的未来吗?

相关阅读

 

著名的社会工程攻击:12个狡猾的骗局

反欺诈、聊天机器人、算法机器人:人工智能在银行业

 

 


相关文章

写一条评论

 

 

0条评论