因使用生成式 AI 制作恶意软件，日本一 25 岁男子首次被判有罪

10 月 28 日消息，据《读卖新闻》25 日报道，日本一名 25 岁林（Hayashi）姓男子因滥用生成式 AI 制造电脑病毒，被东京地方法院判处有期徒刑三年，缓期执行四年，标志着日本首次有因滥用生成式 AI 作出刑事定罪的案例。

据判决书等资料显示，去年 3 月 31 日，该男子左右在川崎市的住所中利用电脑和智能手机，通过生成式 AI 获取的恶意程序设计图（源代码）制作了类似勒索软件的电脑病毒。此外，他还冒充他人骗取了手机通信卡等物品。

判决称：“被告为了获取金钱而制作病毒，其行为自私且刑事责任重大。”同时，考虑到该男子已承认起诉事实并表示反省，法院决定给予缓刑。

在法庭上揭露了另一个现实 —— 哪怕没有 IT 专业知识，也可以利用生成式 AI 制作病毒。根据检方的开场陈述，被告林某使用“非官方版的 ChatGPT”，创建了对特定文件进行加密并使其无法使用，以及要求支付加密货币“比特币”的程序源代码。据称，他通过修改并合并上述代码来完成病毒的制作。

被告在本月 1 日的质询中表示，完成病毒大约花费了一个月时间。他承认自己没有 IT 知识，“如果没有生成式 AI 的话，我想自己无法制作出来。”当辩护人问他“是否很简单”时，他回答说“是”。检方在陈述中指出，如果被告没有因通信卡诈骗案被捕，他的病毒可能会被用于犯罪。

IT之家从报道中获悉，安全公司“三井物产 Secure Directions”高级恶意软件分析技术员吉川孝志称，生成式 AI 设置了不提供非法信息的限制，但网上也存在规避限制的方法。被告在质询中也表示“查找了解除限制的方法，并使用之”。

吉川孝志称：“生成式 AI 被恶意利用时，即便没有知识的人也可能获取可用于犯罪的信息”，并指出“在不影响正当使用的前提下，必须加紧采取防止滥用的对策”。