·主题研讨·
生成式人工智能财产犯罪的特点与应对
刘仁文
近年来,生成式人工智能(Generative AI)研发取得突破,被视为可能是印刷术发明以来最具革命性的知识生产与传播技术。其主要的技术特征是通过深度学习和自然语言处理技术,从大量数据中学习潜在的规律和模式,从而生成类似于人类创作的内容。该项技术的演进及应用场景拓展将给人类生产生活方式带来深刻变革,对教育科研、工业制造、交通、娱乐等各个领域造成颠覆式重构,同时也引发了包括财产犯罪在内的多种犯罪形态和模式的演变与升级。依托深度学习和神经网络算法,聊天机器人ChatGPT、人工智能绘画工具“中途”Midjourney、人工智能绘画工具“稳定扩散”Stable Diffusion等人工智能AI工具在文本、图像和视频生成领域取得突破性进展,但这些技术也容易被恶意利用并引发各种犯罪。就财产犯罪而言,深度伪造(Deepfake)、合约操纵、精准诈骗等犯罪形式日益增加,给财产法益保护带来新的挑战,凸显包括
刑法在内的各种法律法规规范的紧迫性。
一、生成式人工智能财产犯罪的特点
人工智能的大规模应用致使财产犯罪从传统的以依靠人工为核心的“人力犯罪”演化为以依靠算力算法为主力的“智能犯罪”,尤其是在技术的支持下,犯罪形式更为多样,财产犯罪的智能化和隐蔽化程度愈发凸显。由于数据生产要素的进一步发展,人工智能算法也更加注重对数据的挖掘与分析。例如,犯罪嫌疑人通过非法渠道获取李某个人医保信息,并使用李某信息异地登录国家医保应用程序APP,然后使用人工智能AI换脸及图像处理软件PS技术合成李某人脸后,登录“国家医保应用程序APP”,获取医保电子凭证(二维码)盗刷李某的医保卡。仅在2024年12月,全国类似的人工智能AI欺诈案件就已报告数十起,总计经济损失达数百万元。
〔1〕香港地区也发生犯罪行为人运用深度伪造技术对高管换脸并组织虚假视频会议,指令公司财务人员15次将2亿港元转到指定账户的巨额诈骗案例。而此类利用深度伪造或文生视频大模型Sora技术伪装成老板要求财务转账或向朋友借钱的案例在我国其他地区也屡见不鲜。
〔2〕大致归纳,生成式人工智能财产犯罪有以下三个特点:
首先,生成式人工智能财产犯罪更加智能化。传统的财产犯罪,如盗窃、诈骗、敲诈勒索等,主要依赖人与人的直接接触与人工操作。网络环境的匿名性使得财产犯罪越来越具有无接触性和隐蔽性,而生成式人工智能依赖大语言模型和海量参数具有越来越强的推理能力,从而极大提高了犯罪手段的智能性,不再需要大量的人力参与。这一方面使得财产犯罪获得巨大的动能与效率,另一方面也增加了此类犯罪的侦破与防治难度。例如,聊天机器人ChatGPT基于大规模预训练,能识别语法规则,上下文含义、语言风格,甚至推测隐含的情感或意图,基于前面的文本预测下一个最可能的词,并根据用户输入的提示词(Prompt)生成补全提示词的句子。行为人可以将生成式人工智能链接他人的社交软件聊天框,通过预设聊天背景、话术、目的等,自动化地实施诈骗行为,它不再需要人工一一操作,而且随着一键输入,犯罪行为会像核裂变的方式一样急剧扩散。
其次,生成式人工智能财产犯罪更加精准化。生成式人工智能时代的财产犯罪更加注重对海量数据的挖掘与大数据的分析,犯罪行为人借此能够更准确地发现潜在的目标群体并实施精准打击。以社交工程攻击为例,行为人可以通过对社交网络、电子邮件、消费习惯等信息展开大规模的分析,模拟受害者的社交圈,进而制造更具欺骗性的攻击场景。在信息筛查与窃取方面,人工智能还可自动爬取并整合网络中的各种公开数据(如社交媒体、公共记录等),为后续的财产犯罪铺平道路。同时,人工智能算法在处理与分析海量用户数据方面的高效率,也使得诈骗手段呈现出更高的精准度与针对性。例如,犯罪行为人可能根据受害者在抖音、快手、微信公众号等平台上所展现的社交足迹,为其量身定制钓鱼视频或欺诈文案,让受害者更容易放松警惕而上当受骗。此外,深度伪造作为一种能够生成虚假音视频及图像的人工智能技术,除了可被用来制造虚构证据、假冒他人、操纵舆论外,更为行为人借助该技术轻易生成虚假的图像、视频或音频进而伪造身份实施诈骗或敲诈勒索等提供了方便。事实上,犯罪行为人利用虚假音视频或者冒充他人声音、影像,冒充名人或大型企业高管实施投资诈骗,或者冒充执法机关或司法机关工作人员进行敲诈勒索等犯罪活动,已在现实中屡见不鲜。