3月10日，一则“顶流明星澳门豪赌输光十亿”的谣言如病毒般席卷中文互联网。今天，公安机关以行政拘留8日的处罚为这场闹剧画上句点。据警方通报，网民徐某强为博取流量、谋取非法利益，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息。

无独有偶，就在同一天，一男子利用AI撰写色情小说牟利获刑的消息也引起网友热议。根据湖北高院披露案例，2022年11月至2023年3月期间，犯罪嫌疑人柯某某以牟利为目的，使用翻墙软件在境外网站借助AI工具批量生成淫秽小说发布并售卖，总计售卖约760篇（次），共计获利22873.95元。

用AI造谣、写色情小说……这两起案子之所以引爆热搜，除了“AI+明星豪赌”“AI+小黄文”的猎奇组合，更折射出技术滥用的隐忧。近年来，从ChatGPT横空出世，引起风潮，再到之后的文心一言、Kimi、豆包、DeepSeek等，AI正以惊人的速度渗透到我们生活的方方面面。然而，随着AI的迅猛发展，各类与之相关的滥用也随之出现。如有人利用AI数字人批量上线围猎老年人，通过养生直播引流，诱导老人高价买“神药”；有人利用AI篡改短视频，克隆名人声音带货，“移花接木”设置消费陷阱；有人通过“AI荐号”围猎彩民，骗取彩民“注资”。还有一些别有用心者，大量发布AI生成的擦边内容，以迎合一些人的低级趣味、猎奇心态，结果就是子虚乌有的爆料、匪夷所思的内容大行其道。

要扭转这样的局面，有必要尽快明确针对AI应用的行业规范，为维护公共利益构筑起强大的防火墙。对于AI创作者来说，应对内容和关键词进行审核，把好生成式内容的第一关，避免哗众取宠的虚假内容混淆视听。对于内容平台来说，不仅应对AI生成内容进行显著标识，而且应健全内部管理机制，及时清除涉嫌违法违规的不良账号。对用户来说，则要有更清醒的认知以及更坚韧的理性，在遇到不明信息及问题时多问几个“真的吗”“为什么”，提高自我辨别能力。

值得一提的是，就在今天，国家网信办等部门已联合发布《人工智能生成合成内容标识办法》，办法9月1日起施行。其中明确要求，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播，不得通过不正当标识手段损害他人合法权益等。此外，两会期间，雷军、靳东等不少代表委员也就“AI换脸拟声”发声，呼吁立法严管“AI换脸拟声”滥用，这一建议得到很多网友的支持。这表示，规范AI已成为社会各界的普遍共识。说到底，遏制AI技术滥用风险是一道综合考题，唯有强化各方的主体责任，才能在AI时代守住技术的底线和红线，防止技术滥用和跑偏，真正让科技向上向善、为人类服务。

相关新闻

用AI捏造“顶流明星在澳门输了10亿”谣言，一男子被拘留