人工智能 AI 技术产出的内容真假难辨，正在带来前所未有的诈骗风险。近日，南洛杉矶一位名叫 Vivian Ruvalcaba 的女子就愤怒表示，她的母亲 Abigail 陷入此类骗局，被骗子骗走了几乎全部积蓄，还卖掉了自己的房子。“这件事竟然发展到这种程度，我感到非常恶心。”
Ruvalcaba 透露，骗子通过 deepfake 深度伪造技术，制作出冒充肥皂剧《General Hospital（综合医院）》男星 Steve Burton 的假视频，以此与 Abigail 通信，让她深陷于一场虚假的恋爱之中。Burton 饰演的角色 Jason Morgan 自 1991 年起便深受观众喜爱，而骗子正是利用这点实施欺诈。
在其中一段骗子发来的视频中，“Burton”说道：“你好，Abigail。我非常爱你，亲爱的。我必须做这个视频来让你开心，我的爱人。”
Ruvalcaba 表示，母亲多年来一直患有精神疾病和第一型双相情感障碍。去年 10 月，母亲开始在 Facebook Messenger 上收到骗子发来的视频，随后骗子将对话转移到 WhatsApp 上，而母亲对这一切都深信不疑，以为 Burton 真的爱上了她，想要和她共度余生。“在她的脑海里，根本没有骗子存在，”Ruvalcaba 说，“她一直以为自己在和 Steve Burton 说话。”
当骗子冒充 Burton 告诉 Abigail 他在洛杉矶大火中失去了房产时，Abigail 没有丝毫起疑，反而以为 Burton 需要钱与她共建爱巢。随后，她向骗子发送了至少 81,304 美元，形式包括礼品卡、现金和比特币。今年早些时候，她甚至以 35 万美元卖掉了自己位于 Harbor City 的公寓。当时她给骗子发消息说：“我记得你曾建议卖掉这个地方。我当时拒绝了。现在我无所谓了。如果卖掉房子能让我们重新开始，并更接近我们梦想的生活，我会支持你。”
Ruvalcaba 后来才发现母亲深陷骗局，及时阻止了她将帐户里剩下的 7 万美元汇给骗子。Ruvalcaba 说道：“她感到很羞愧，我知道。把这种压力强加在我身上、她自己身上、我父亲，还有整个家庭，我知道她心里很难受。”
有媒体就此事件联系了 Burton 本人，他表示，自己早已听过类似的故事。“据我所知，因被骗而损失金钱的女性有几百人。是几百人。”Burton 透露，在他经过认证的 Instagram 账号下，他经常看到骗子回复粉丝留言，引导他们前往其他页面，最终以各种理由索要金钱。媒体还向 Burton 展示了骗子发给 Abigail 的视频，看后 Burton 感慨道：“听起来确实像是我的声音，百分之百。”
作为母亲的法定代理人，Ruvalcaba 已经和母亲 Abigail 一起提起诉讼，试图撤销房屋出售交易。她们的律师提出，Abigail 无法分辨真实与虚假，因此没有精神能力来签署类似房屋出售这样重要的合同。而买方律师坚决不同意 Abigail 缺乏签约能力的说法，并表示证据完全站在他们这一边。最终这一切还需要等待法庭裁决。
Ruvalcaba 表示，她之所以要公开这个故事，是想提醒公众人工智能技术已经变得多么逼真和危险。她也想提醒大家，要多多留心自己家人在线上的行为和交互。
来源: ABC7
