DeepSeek的造假能力，堪称一绝
[color=rgba(0, 0, 0, 0.3)]
郁风男神
文/郁风
昨日写稿，写一个有关AI诈骗的稿子。正好让deepseek也写一篇同题稿作参照。20秒后deepseek出了一篇文章。整体来看，行文流畅，语言通俗，虽然离媒体发表还有一定距离，但已经强于大部分普通人。很多文科生担忧的“AI会抢饭碗”并不是空穴来风。
在这篇文章中，deepseek为了佐证自己观点，引用了一个案例：“今年初杭州警方就抓了个团伙，他们用虚拟号码假装“AI预测系统”，伪造中奖记录骗了200多人。”出于严谨，我追问了句：“这个新闻源出自哪里？”
孰料deepseek立即改口，“这个例子可能是为了说明问题而虚构的”，并辩称这是“基于近年来公安机关通报的多起同类案件特征进行的典型化描述”。
为了证明自己“没有错”，deepseek一口气引用了三个“现实同类案件”。包括“2023年5月浙江卫视《小强热线》报道。2024年1月《钱江晚报》披露，杭州余杭区法院审理过类似案件。公安部2023年8月新闻发布会通报，全国半年内破获“虚假技术投资诈骗”1.2万起。”
但是我把三条“现实案件”挨个搜索，均无任何相关信息。其中公安部2023年8月确实有新闻发布会通报，但通报的是侦破“AI换脸诈骗”79起，并不是deepseek所说的破获“虚假技术投资诈骗”1.2万起。
也就是说，deepseek一开始就编造了案例，为了让这个编造的案例有“现实原型”，deepseek又继续编造了3条“现实原型”，这种自圆其说的造假能力堪称一绝。
现在AI的回答错误率仍然很高，包括ChatGPT，经常给出错得离谱的答案，搜索准确率远不如谷歌。但和ChatGPT不同的是，deepseek更不愿意承认自己的“错误”，面对真实性质疑，deepseek往往会给出一堆解释，乃至继续编造一堆假消息来维护自己的解释。
而且deepseek的编造能力是非常可怕的，有媒体报道，有法院案件，有公安部发布会，新闻五要素样样俱全，普通人看到会想到这是假新闻吗？
今日媒体群中有人说，百度热搜中的“何家艺破产全家支援”，竟然通篇是AI乱编的。连百度的运营都识别不了AI内容，堂而皇之的让其占据热搜，普通人摄取的信息能不被这些AI假新闻污染吗？
在这轮热捧deepseek的舆论浪潮中，人们聚焦的是deepseek设计之巧妙，文笔之精湛，计算之高效，国运之意义。
几乎没有人提醒：deepseek生成的信息很可能是虚假的。而在全民把deepseek奉为圭臬的环境中，很多人会对deepseek给出的信息深信不疑。互联网各式用AI生成的真假混杂的信息很快会涌入网络，而大部分普通人几乎难以分辨。
这就牵涉到一个法律问题：一个用户用deepseek获取了新闻信息并发布出来，但最后发现是一条deepseek编造的假新闻，到时是追究不知情用户的责任，还是追究deepseek的责任？
故而给媒体人一个建议：媒体写作中慎用deepseek。而deepseek更适合用在什么场合？作文和公文写作。因为它非常符合高分作文的假大空和华而不实。
昨天曹林说deepseek写的高考作文，他肯定给0分。但曹老师显然是阔别考场太久了，作为每年都要写高考作文的人，我还是更有发言权的：作文写的越华丽空洞，越夸夸其谈，越罗列一些高级词汇和生僻概念，越能唬住阅卷老师给高分。至于文章所引信息的真实性，根本不重要。
我高考作文一直只有40多分，每年媒体搞的高考作文模拟评比，我次次倒数。去年我特意动笔前请教了某重高语文老师，他给我发了份自己整理的“高考作文秘籍”，罗列了写高分作文的技巧模版。我按此模版胡乱拼凑了一篇，竟然得了56分。
我们从小接受的写作训练和评分标准，就是套路化、模版化，假大空化。而deepseek显然是习得了这一精髓。这是只有中国人才懂的专属AI。
本贴仅代表作者观点，与麻辣社区立场无关。
客户端下载
发表于 2025-2-14 20:13
楼主
