日男子首判AI制恶意软件罪

近日，东京地方法院针对一名25岁的男子涉嫌滥用生成式AI制造电脑病毒的案件作出判决，判处有期徒刑三年，缓期执行四年。这是日本首次因滥用生成式AI技术而进行的刑事定罪，引起了社会广泛关注。

据悉，去年3月31日，该男子在川崎市的住处，利用电脑和智能手机，通过生成式AI获取的恶意程序设计图（源代码）制作了类似勒索软件的电脑病毒。此外，他还利用网络手段骗取他人手机通信卡等物品。法院审理认为，被告制作病毒的行为是出于获取金钱的目的，其行为自私且刑事责任重大。

在法庭审理过程中，该男子承认自己没有IT专业知识，但通过使用“非官方版的ChatGPT”等生成式AI工具，仅花费一个月时间便完成了病毒的制作。他表示，如果没有生成式AI的帮助，自己无法制作出这种病毒。

此案凸显了一个现实问题：即便没有IT专业知识，利用生成式AI也能轻易制作出病毒。安全公司“三井物产Secure Directions”高级恶意软件分析技术员吉川孝志指出，尽管生成式AI设置了不提供非法信息的限制，但网上仍存在规避限制的方法。该男子在质询中也表示，他通过查找了解决方法，成功绕过了限制。

吉川孝志强调，生成式AI被恶意利用时，即便没有专业知识的人也可能获取用于犯罪的信息。因此，在不影响正当使用的前提下，必须加紧采取防止滥用的对策。

法院在判决书中表示，考虑到被告已承认起诉事实并表示反省，决定给予缓刑。这起案件再次提醒人们，生成式AI技术在带来便利的同时，也存在着被滥用、引发安全隐患的风险。社会各界应共同努力，加强相关法律法规和技术的监管，以保障网络安全和公共利益。