AI诈骗是一种严重的安全问题,它利用人工智能技术,如AI换脸和AI换声,来欺骗和诱骗人们,可能导致各种恶意行为,如虚假信息传播、网络诈骗、身份盗窃等。
AI诈骗能成立,其实有诸多前提,但凡能将诈骗前提条件进行适当的控制和安全保护,AI诈骗将很难有效实施:
诈骗者需要获取有关受害者的信息,这可能包括社交媒体信息、个人详细信息、互联网足迹等。这些信息有助于个性化的欺骗攻击。
而受害者往往在很多不同平台、不同环境中主动或者被动的泄露了自己的信息。
简单举例:小区物业可能会收集业主的人脸资料,用于小区大门的人脸识别,但是大家都知道,物业部门怎么可能会有专业的IT安全工程师来守护这些业主的人脸资料呢?那么这些人脸资料采集后,具体如何保存,如何保护,如何监管?都是空白。一旦泄露,整个小区的业主人脸资料都会成为诈骗成立的前提条件。
首要的前提是AI技术的可用性和广泛应用。AI技术,如生成对抗网络(GANs)、自然语言处理(NLP)、图像生成等,已经在各个领域取得了显著进展,而对AI技术应用的门槛降低,真正为AI诈骗提供了工具和资源。
AI技术本应正向为人类发展提供服务,但是因其本身具有的双刃性,造福人类的同时,也成为了伤害人类的工具。
缺乏有效的监管和执法措施也可能为AI诈骗提供机会。当诈骗者能够逃脱追踪和惩罚时,当诈骗者获利巨大,他们会有更强的动力进行欺骗。
在国内,诈骗行为很难收集到足够有效的证据,老百姓如果遇到诈骗,也不具备收集证据的能力。这就需要监管机构和执法单位能有更加有效的早期介入,主动执法。拥有更多的执法手段、执法依据、执法能力。
打击诈骗过程中,监管机构仍然还只是对直接实施诈骗行为的人员进行执法,但是没有追根究底的溯源,诈骗所需要的信息如何收集来的?信息从哪些地方泄露出来?泄露这些数据的人员是否得利?是否具有震慑力度的执法依据对整个链条的违法行为进行打击。
个人认为诈骗成立还有很多前提条件,但是最为关键的就是这三点,能降低、削弱诈骗行为成立的条件,诈骗行为将更难成立。