由AI驱动的虚假信息攻击或成银行致命威胁

YRUZxOjIay1

近日，一项英国研究揭示了AI虚假信息的潜在威胁，它可能轻松引发银行客户的恐慌，甚至导致银行挤兑事件。这一发现为金融机构敲响了警钟，提醒它们必须重视并防范这一新型风险。

英国研究机构“对虚假信息说不”(Say No To Disinfo)与通信专家公司费尼莫尔·哈珀(Fenimore Harper)合作，模拟了一场由AI驱动的虚假信息宣传活动。作为活动的一部分，英国500名银行客户接触到了有关其金融机构的合成“谣言”。
此次模拟的动机是为了确定基于GenAI的虚假新闻宣传活动未来是否会引发“银行挤兑”——如美国硅谷银行所遭遇的情况。
研究结果凸显了AI在这一领域的潜在威胁：

• 接触虚假新闻的受访者中，近61%的人基本上愿意从相关银行撤资。
  
• 略超过33%的受访者认为这“非常有可能”，另有27%认为“可能”。
  
• 根据研究，若以财务支出计算，投资10英镑(约合13美元)用于AI内容生成就足以“转移”价值100万英镑的资产。
  

“借助AI工具，我们生成了虚假的新闻标题，其叙事旨在利用现有的恐惧和偏见。核心信息是：‘客户资金不安全。’”研究人员解释说。
根据他们的报告，专家主要使用短信息服务X来大量传播相应的帖子和模因。
“鉴于虚假信息宣传活动可以如此迅速、轻松且廉价地有效发起，金融部门必须做好准备，”研究人员警告说。然而，不幸的是，银行往往缺乏相应的专业人才：“金融机构在应对客户信任映射、恶意行为者映射或战争博弈时，往往是被动反应，而非主动出击。”
金融机构必须解决这类基于AI的宣传活动所带来的风险，这至关重要：“那些只关注网络威胁而忽视影响力操作所带来风险的银行”正在制造一个严重的安全漏洞，研究人员表示。