研究表明很多消费者高估了自己对深度伪造的检测能力

消费者对生成式人工智能的认识度

消费者对生成式人工智能和深度伪造的认识度很高——52%的受访者认为他们可以检测到深度伪造的视频。这一结果反映了消费者的过度自信，因为深度伪造已经达到了肉眼无法识别的复杂程度。

英国金融部门在最近发布的一份研究报告中指出，深度伪造的骗局在2022年给英国造成了1.77亿英镑的损失，这一点令人担忧。该报告特别指出，由于使用了生成式人工智能工具，导致拼写错误或虚假网站等警告信号不那么显著，使其骗局变得越来越难以发现，这是造成这种情况的原因。

根据美国联邦贸易委员会日前发布的数据，美国的消费者在2022年因深度伪造骗局损失了26亿美元，高于2021年的24亿美元。

深度造假的功能变得越来越强大

Jumio公司的数据表明，在全球各个行业领域，深度伪造的骗局都一直在增长，尤其在支付和加密领域。

Jumio公司的首席技术官Stuart Wells表示，“很多人似乎认为他们可以发现和检测深度伪造。虽然肯定会发现一些迹象，但深度伪造的功能变得越来越强大，而且在没有人工智能技术的帮助下，消费者越来越难以发现深度伪造的骗局。”

Wells补充说，“虽然企业将越来越多地需要人工智能技术来发现并保护他们的网络和客户免受深度伪造的侵害，但消费者可以通过怀疑对待挑衅性的图像、视频和音频来保护自己。一些快速研究通常会发现这是否是伪造的。”

身份盗窃问题

随着消费者越来越了解这些技术，人们也越来越了解它们如何被用来助长身份盗窃。

57%的人认为网络身份盗窃将因此变得更容易，新加坡消费者对其潜在的有害用途的了解程度最高(73%)。而在墨西哥(62%)、美国(49%)和英国(43%)的消费者中的这一比例较低。

Jumio公司的数字身份主管Philipp Pointner表示：“企业有责任让客户了解生成式人工智能技术的细微差别，帮助他们对自己检测深度伪造的能力产生了更现实的期望。

与此同时，即使是最好的网络教育也永远无法完全阻止欺诈者使用不断发展的技术。企业必须考虑实施多模式、基于生物特征的验证系统，以检测深度伪造并防止被盗的个人信息被使用。令人鼓舞的是，研究表明，消费者对这种形式的身份验证有着浓厚的兴趣，企业应该迅速采取行动。”

68%的消费者愿意使用数字身份在网上进行验证。更喜欢数字身份而不是实体身份(例如驾照或护照)的行业是金融服务(43%)、政府(38%)和医疗保健(35%)等行业。