“为什么一个无家可归的人会进屋来？” “保安看不到监控吗？”近日，广州番禺一大型安置点业主中，一张无家可归者试图闯入其房屋的“现场”照片震惊了居民。发布这张照片的房主表示，当一名无家可归的人闯入家中时，她 12 岁的儿子独自在家。群里热烈讨论了很长时间。直到一位业主提醒我，才发现这是一个骗局，照片是一个孩子用AI生成的。南方都市报、南都大数据研究院记者深入调查发现，短视频平台上存在不少类似的照片和视频，以及相关照片和视频的制作教程。只需上传你家的照片并输入命令，短短几秒钟，一张近乎逼真的“无家可归者毁掉你的房子”的AI图片就会出现被生成。类似的罐头事件此前在多地也曾发生过，有的导致警察连夜出动，甚至有国外人士因此被捕。人工智能生成的图像很容易扰乱社区的安宁，影响公共安全资源。这些看似荒唐又愚蠢的事件，却打开了AI管理问题的一角。有法律专家认为，该事件反映出人工智能技术滥用带来的诸多问题，还应加强对青少年等群体的人工智能素养教育，警示潜在的法律和伦理后果。一个无家可归的人正在摧毁你的房子？一名 12 岁男孩利用人工智能来挫伤父母的士气。近日，广州番禺某小区一群业主晒出了一张无家可归者毁坏自家房屋的照片。照片中，一个无家可归的人站在主人家门前，家里的孩子们拿着扫帚和T恤。想要把他赶走。业主们多次称其“可怕”，并质疑物业安全状况不佳，要求立即监控了解情况。在广州的一群业主群中，一名居民贴出了一张无家可归者闯入他家的照片。直到一位业主提出了ratesanungan并表示该图像可能是由AI生成的。发照片的家长一开始不太相信：“我儿子才12岁，怎么能拍假照片呢？而且照片上就是我的门、扫帚、梯子。”但在其他业主解释说使用人工智能工具生成类似图像非常容易后，家长询问了孩子，真相就清楚了。他后来向团队解释说，因为照片太真实，所以他把照片发给了业主团队。这次“艾恶作剧”事件并非孤例。据媒体报道，典型案例发生在安徽铜陵。一名妇女使用人工智能创建了无家可归者的真实图像的男人躺在家里的一家餐馆里。妻子收到后信以为真，立即报了警。派出所启动应急机制，连夜派出警力，但最终证实是虚假情况。警方随后对这名女子进行了批评和研究，指出她的行为是“浪费公共资源”。类似的闹剧在全国多地上演。有些导致对整栋大楼进行挨家挨户的检查，而另一些则促使亲戚赶回家，这只会加剧人们的匆忙。人工智能恶作剧的趋势正在跨越国界蔓延。青少年追随潮流并模仿这种潮流。 AI流浪恶作剧的风潮最早起源于国外的社交媒体。今年10月初，相关视频开始出现在抖音上，很快吸引了年轻人效仿。他使用 Snapchat 等内置人工智能工具来生成“流浪汉闯入房屋”的图像，然后将其将他们找到家长，记录他们的恐慌反应，然后将他们返回平台获得流量。截至10月底，仅“#HomelessManprank”标签下就积累了1600多个视频，最高点赞数超过8万。此类恶作剧视频操作门槛低、情感冲击力强、剧情回报大、易于模仿，能快速产生话题传播效果。国内社交平台上，AI流浪汉恶作剧的视频也以同样的方式传播。短视频平台不仅涌现大量成品视频，还支持AI制作教程。南都n视频记者在实际测试中发现，用户只需打开AI图像生成工具，上传一张自家室内的照片，输入简单的提示词，几秒钟之内就能生成一个如同真人一样的“流浪汉闯入家中”场景。借助图胜的视频功能，您还可以播放无家可归者在房子周围走动的视频片段。有些平台可以直接访问在相关视频下方生成图像的插入工具。用户浏览类似内容后，可以一键跳转到该内容，选择相同的模板，快速生成“猫腻”图片。短视频平台上有大量的Vagrant恶作剧视频，你也可以一键制作同样的视频。人工智能在世界各地作祟，导致警方误报，其他国家的一些人也因此被追究刑事责任。事实上，无家可归者恶作剧的照片和视频不仅是社交媒体上的流行表情包，而且也给世界许多国家的警察带来了真正的问题。美国马萨诸塞州塞勒姆警方10月初发布公告称，Tiktok上的此类内容引发了多起虚假的911警报，并谴责其为“愚蠢的行为”。随后，多家警察局和媒体发布预警，强调AI恶作剧视频引发误报，不仅占用应急资源，还可能造成派出高速警察的二次风险。英国多地区的警察也收到大量类似误报，形容其“危险，浪费宝贵资源”，呼吁公众立即停止。在一些国家，还引发刑事责任。在美国，马里兰州一名女子使用AI伪造了一张家中有入侵者的照片，引发其丈夫报警，导致8辆警车紧急出动，随后该女子因误报并向警方做出虚假陈述而被逮捕并送上法庭，俄亥俄州的两名未成年人也参与了这一话题并生成了AI图像，随后引发了警方的出动。法庭以“引起恐慌”等罪名。在中国，法律界人士教导说，误报不仅仅是直接报警。明知家人可能误会警察，故意拍摄AI的照片和视频，被视为“间接故意”。确定为误报的，依照《中华人民共和国治安管理处罚法》的有关规定，可以处五日以上十日以下有期徒刑，并处罚金五百元。如果相关内容进一步转发并引起社会恐慌，该事件还可能带来刑事责任。此前，浙江嘉兴有人为了引起关注，用大型人工智能模型制作了一条失踪人员告示，上面写着“女儿被带走了”并进行传播。后被依法行政拘留。北京道道证通律师事务所合伙人韩鹏律师在接受媒体采访时表示，人工智能恶作剧事件的影响通常比较轻微，但在一定程度上却暴露了很多由于人工智能技术滥用而带来的问题，这些问题是由于技术滥用和管理滞后造成的。共同行动的产物。人工智能生成内容的高保真度模糊了事实与虚构之间的界限。如果公众对人工智能能力的认识停留在“爱好玩具”的层面，很容易低估对社会的影响。加强人工智能素养教育不仅教会人们如何使用它，还警告人们可能产生的法律和道德后果。年轻人必须树立使用科技的责任感。 编辑：吴家洪先生