5月14日ღ◈★，某网站发布的一份标题为《2024年中国煤炭行业竞争格局及发展趋势预测报告》的内容引发网友热议丁香花社ღ◈★，该报告售价为7600元人民币ღ◈★，网页预览的目录中写道ღ◈★：“煤炭（coal）出自《Minecraft》ღ◈★，是可再生资源ღ◈★，收获来自煤矿石及击杀凋零骷髅获得1-3个ღ◈★，可以使用任何镐来挖取煤矿石ღ◈★。主要用途是作为燃料或制造火把ღ◈★，有些村民可以以15个煤炭交换一个绿宝石龙8国际Pt老虎机ღ◈★。”

　　这段目录内容显然与煤炭行业没有任何关系ღ◈★，这是游戏《Minecraft》的游戏道具“煤炭”的规则说明ღ◈★。该报告在社交平台引发热议ღ◈★，有网友质疑该行业报告是AI生成的ღ◈★，AI直接整合了网络上“煤炭”相关的信息丁香花社ღ◈★，因此游戏中的道具“煤炭”的说明信息也被整合了进来ღ◈★。这段《Minecraft》中“煤炭”的规则说明来源也被玩家们找到了龙8国际Pt老虎机ღ◈★，来源于相关的百科词条丁香花社ღ◈★。

　　记者询问了该网站的在线客服ღ◈★，客服称这是网络出现bugღ◈★，目前网站已进行了修改丁香花社ღ◈★，此前的确存在这段内容ღ◈★，具体造成这个bug的原因尚不清楚ღ◈★。当前相关目录预览信息已删除ღ◈★。

　　到底是真如客服所言这是第一次网络系统故障出现的意外还是其行业报告真的是用了AI生成偷工减料外人不得而知ღ◈★，但引发网友讨论的大语言模型对人类知识库语料的污染问题的确已不容小觑ღ◈★，像煤炭行业报告的目录里出现游戏攻略这还是很容易被辨识出来的错误ღ◈★，还有的知识污染问题就令人头疼了ღ◈★，今年二月ღ◈★，知名科普作家河森堡曾发文吐槽人工智能一本正经胡说八道的问题ღ◈★，河森堡让AI介绍一下青铜利簋龙8国际Pt老虎机龙8国际Pt老虎机ღ◈★，AI一本正经地扯了一大堆ღ◈★，河森堡接着问这些都是哪里来的ღ◈★，它还给列出了一堆文献ღ◈★，“看着是那么回事龙8国际Pt老虎机ღ◈★，其实又在胡扯ღ◈★。”河森堡发现AI给出的作者单位ღ◈★、作者姓名都出现了错误龙8国际Pt老虎机ღ◈★，这些学术文献里也没有AI扯的这些内容ღ◈★，AI只是搞出了一个引用的假象ღ◈★，对此问题河森堡表示了担忧ღ◈★：“AI能虚构从文本到照片乃至视频的一切内容ღ◈★，并且令其彼此印证互相支撑龙8国际ღ◈★，ღ◈★，可谓天罗地网环环相扣ღ◈★，其制造的幻觉在强度上和之前编点文字故事时不可同日而语ღ◈★，除非你亲自见到专家本人求证ღ◈★，或者到现场实地考察ღ◈★，否则你会被AI创造出的假象玩得死死的ღ◈★。稍微一个不留神ღ◈★，被AI污染的记忆就不知不觉钻进脑子里了ღ◈★。”

　　AI造成的人类信息污染问题已引发各界关注ღ◈★，一方面ღ◈★，AI捏合的虚假信息长期留存于网络空间丁香花社ღ◈★，又成了新的信息来源丁香花社ღ◈★，在经过多轮传播扩散后龙8国际Pt老虎机ღ◈★，虚假信息将会像滚雪球一样越来越大ღ◈★，用户绝难辨别寻找信息真正的源头最新国际新闻ღ◈★！ღ◈★，查证的难度成倍增加龙8国际Pt老虎机ღ◈★。另一方面ღ◈★，混杂虚假信息ღ◈★、低质无效信息的AI生成内容充斥占据网络空间对于网络生态的健康发展绝无益处ღ◈★，由不可靠AI生成文章资讯遍布网络丁香花社ღ◈★，涵盖政治ღ◈★、文化ღ◈★、娱乐ღ◈★、科技ღ◈★、经济各个领域ღ◈★，内容谬误数不胜数ღ◈★。

　　目前多个网络平台已开启对AI生成内容泛滥问题的治理ღ◈★，如5月12日ღ◈★，小红书薯管家发布整治AI技术滥用的的公告ღ◈★，针对“利用AI生成低俗猎奇视频”“AI生成虚拟外国幼儿教育专家教授育儿内容”等各类违规内容加强排查清理力度ღ◈★。4月底ღ◈★，复旦发展研究院助理研究员辛艳艳在论文《AI快速发展引发的“信息污染”问题ღ◈★、存在的风险隐患及对策建议》中提出建议ღ◈★，一方面在监管政策上ღ◈★，坚持以算法治理和数据治理为核心ღ◈★，聚焦人工智能发展的具体场景进行政策迭代ღ◈★，规避风险ღ◈★。另一方面也要加强技术反制ღ◈★，加强对人工智能问答模型的安全监管丁香花社ღ◈★，细化AI伦理准则ღ◈★，此外ღ◈★，还要支持专业机构与人工智能技术的合作并加强对虚假信息的应急处置和反制机制ღ◈★。既要对公共突发事件ღ◈★、政治敏感信息进行快速澄清龙8国际ღ◈★。ღ◈★、消除影响ღ◈★，同时也要系统性关注涉及历史观的虚假信息ღ◈★，避免记忆捏造等情况出现ღ◈★。