在过去一年中，生成式人工智能大受欢迎，并继续在商业领域得到广泛应用。然而，诈骗者已经注意到了这一点，并正在利用这项新技术更有效地欺骗消费者。

什么是生成式人工智能？

生成式人工智能是一种可以创建文本、图像、音乐和其他媒体的人工智能。例如，您可以要求生成式人工智能工具（如 ChatGPT）编写一个包含几个特定情节点的故事。ChatGPT 可以使用其算法和您提供的信息来创作一个与您的期望非常接近的故事。

在大多数情况下，生成式人工智能可以生成有用的内容，帮助人们更有效地完成工作。不幸的是，诈骗者也可以利用生成式人工智能的力量。语音模仿诈骗是犯罪分子利用毫无戒心的消费者的最新手段之一。

语音冒充诈骗日益猖獗

美国联邦贸易委员会 (FTC) 报告称，2022 年冒充诈骗案窃取了 26 亿美元。随着越来越多的犯罪分子获得该技术，生成式人工智能可能比前几年发挥了更大的作用。

诈骗者如何使用生成式人工智能

诈骗者以多种方式使用生成式人工智能，例如消除声音中的口音、生成诈骗脚本以及释放可以独立运行的人工智能机器人。

然而，声音克隆却是最大的威胁。

在 Hiya 2023 年通话状况峰会上，该公司首席产品官 James Lau 演示了犯罪分子如何使用生成式人工智能来提高语音模仿骗局的有效性。Lau 采取了简单的步骤来克隆 Hiya 首席执行官 Alex Algard 的声音，并要求财务部门的一名员工将 20,000 美元汇入一个账户。

刘先生利用 YouTube 视频剪辑，使用语音模仿诈骗中使用的生成式 AI 工具克隆了阿尔加德的声音。然后，他下载了号码欺骗软件，让电话看起来像是来自阿尔加德的号码。结果是录音听起来像阿尔加德，而且看起来像是来自他的号码。这几乎可以欺骗任何不知道语音模仿诈骗有多有效的员工。

一些人工智能工具甚至可 易趣数据 以实时生成内容。如果员工向“人工智能阿尔加德”提问，克隆人就会给出合理的回答。在许多情况下，与人工智能语音生成器交谈就像与真人交谈一样顺畅。

AE 如何识别垃圾电话

分析引擎 (AE) 在阻止语音冒充诈骗侵害消费者并损害电话号码声誉方面发挥着关键作用。AE 会查看通话的各个方面以确定其有效性。AE 考虑的一些细节包 评论能够影响新客户而且一条色评 括通话来源、电话号码的历史记录、呼叫者和接收者是否曾经互动过以及 STIR/SHAKEN 信息。一些最复杂的 AE 甚至可以使用“音频指纹”来识别诈骗电话。

当 AE 检测到任何可疑情况时，他们可以添加警告标签或标志，以帮助消费者决定是否要接听电话。

AE 使用自适应 AI 识别垃圾邮件

分析引擎需要不断发展，才能领先于诈骗者使用的技术。随着时间的推移，自适应人工智能 澳大利亚电子邮件列表 会收集更多信息并改进其打击垃圾邮件的方法。它会学习哪些方法有效，并将这些方法应用于未来的通话。即使犯罪分子为了避免被发现而转向，自适应人工智能也会从他们的行为中学习，以保持领先一步。

欧盟颁布人工智能法案

政府在打击使用生成式人工智能的语音模仿诈骗方面也发挥着重要作用。欧盟的《人工智能法案》表明，世界上一些最有影响力的政府希望监管人工智能。理想情况下，监管应鼓励公司利用人工智能的优势，同时抑制负面影响。

欧盟的《人工智能法案》增强了政府追捕利用人工智能进行恶意犯罪的权力。这些法规的解释和执行方式可能会随着时间的推移而发生变化，但《人工智能法案》为监控高风险人工智能项目和阻止犯罪企业奠定了基础，其中可能包括那些利用人工智能进行语音模仿诈骗的企业。

呼叫阻止和标签对企业的影响

政府有充分的理由担心个人和组织如何使用人工智能技术。企业也有充分的理由严肃对待诈骗行为。

电话仍然是企业接触潜在客户和客户的重要方式。随着越来越多的运营商和第三方应用程序试图保护消费者，他们对潜在的垃圾信息采取了更积极的立场。呼叫拦截和负面标签的影响可能会摧毁一些企业。根据 TransUnion 和 Omdia 的一份报告，70% 的企业表示，呼叫拦截和标签在过去六个月内使他们的收入损失了 10%或更多。

保护人们免受语音冒充诈骗是提高消费者信任度的重要部分。不幸的是，这些保护措施可能会损害试图接触客户的合法企业。

识别、补救和纠正来电显示标记

分析引擎将在保护消费者免受使用生成式人工智能的诈骗者侵害方面发挥越来越重要的作用。不幸的是，新兴的AE 会犯与已经用于阻止垃圾邮件的错误类似的错误。这意味着他们可能会错误地标记您的号码。

如果您的号码被标记，您将需要采取几个步骤来恢复其声誉。