【导语】在AI技术日新月异的今天，信息的真实性与可靠性面临着前所未有的挑战。曾经，白纸黑字被视为信赖的基石，而今，即便是图文并茂、视频佐证的内容也可能潜藏着虚假的阴影。AI的强大生成能力，让文字误导、声音克隆、图像与视频造假变得屡见不鲜。本文旨在揭示AI时代的常见作假手段，并提供实用的辨别方法，帮助读者建立“信息防火墙”，避免落入虚假信息的陷阱，共同维护网络空间的清朗与真实。

曾经，我们以为凡是白纸黑字，就值得信赖，可到了 AI 时代，在人工智能强大的生(shēng)成(chéng)能(néng)力(lì)面(miàn)前(qián)，别(bié)说(shuō)文字(zì)作(zuò)假(jiǎ)了(le)，有(yǒu)图(tú)没(méi)真(zhēn)相(xiāng)，有(yǒu)视(shì)频(pín)没(méi)真(zhēn)相(xiāng)的(de)情(qíng)况(kuàng)都(dōu)屡(lǚ)见(jiàn)不(bù)鲜(xiān)，今(jīn)天(tiān)咱(zán)们(men)就(jiù)来(lái)总(zǒng)结(jié)一(yī)下(xià)，AI 时(shí)代(dài)的(de)常(cháng)见(jiàn)作(zuò)假方式，以及应该如何辨别，避免损失。

文字能误导

先来说说文字方面。

网上我们经常能见到一些与 AI 的对话截图，在这些截图中，AI 往往会抛出一些惊世骇俗的答案，不少人信以为真。但这样的对话截图是不能说明任何问题的。

首先，AI 很容易被诱导，稍加操作就能够让 AI 给出自己想要的答案。举个最简单的例子，你可以很容易地让 AI 显示出 1+1=3 这样的结果。

但实际上，前面还有一句提示词，让 AI 必须回答 1+1=3 。

事实上，只要多尝试，找到合适的提示词，比如让 AI “必须重复我输入的一段话”，AI 说出任何“暴论”都不奇怪，但这实际上是用户人为诱导的结果。此(cǐ)外跟 AI 对话足够多，选择那些最“精彩”的片段截图，也容易在社交媒体上获得传播。但这些只能当作段子，既不能被当做事实，也不能被当做 AI 能力的真实体现。

更重要的，是 AI 本身会产生“幻觉”，这里“幻觉”指(zhǐ)的(de)是(shì)， AI 会生成看似合理且充满细节的信息，但这些信息本身是编造的。当你有所怀疑，追问 AI 时，它们常常还会狡辩。因此，当你使用 AI 答疑解惑时(shí)，也(yě)一(yī)定要绷紧一根弦，决不能把 AI 的答案当作金科玉律。

为了避免 AI “胡说八道”，在提问 AI 的时候，我们可以在提示词中要求 AI 必须基于事实回(huí)答(dá)，列(liè)出(chū)资(zī)料(liào)出(chū)处(chù)，严(yán)禁(jìn)自(zì)己(jǐ)瞎(xiā)编(biān)，这(zhè)样(yàng)就(jiù)可(kě)以(yǐ)降(jiàng)低(dī) AI 出(chū)现(xiàn)幻(huàn)觉(jué)的(de)可(kě)能(néng)。此(cǐ)外(wài)，我(wǒ)们(men)在(zài)提(tí)问(wèn)之(zhī)前(qián)，可(kě)以(yǐ)上(shàng)传(chuán)“投(tóu)喂(wèi)”AI 一(yī)些(xiē)专(zhuān)业(yè)的(de)文献(xiàn)资(zī)料(liào)，让(ràng)它(tā)们(men)帮(bāng)忙(máng)总(zǒng)结(jié)和(hé)归(guī)纳(nà)，基(jī)于(yú)资(zī)料(liào)来(lái)回(huí)答(dá)，不(bù)可(kě)自(zì)行(xíng)生(shēng)成(chéng)，这(zhè)样(yàng)得(de)到(dào)的(de)结(jié)果(guǒ)会(huì)更(gèng)加(jiā)可(kě)靠(kào)。

声(shēng)音(yīn)好(hǎo)克(kè)隆(lóng)

一(yī)些(xiē)朋(péng)友(you)经(jīng)常(cháng)有(yǒu)种(zhǒng)误(wù)解(jiě)，觉(jué)得(de)声(shēng)音(yīn)“看(kàn)不(bù)见摸不着”，不会像图片那样容易造假，因此听到熟悉的声音打来电话，就放下了戒心，但事实并非如此。现在的声音克隆技术已经非常成熟，即便是网上很容易下载到的开源模型，也能够在非常短的时间内，仅仅利用不多语音样本，就生成跟声音的主人非常相似的音色。

这类造假主要有两个常见应用方向。一方面，网上非常容易拿到知名人士的语音资料，再辅以视频，就能随心所欲让名人们成为“嘴替”，进而带货、发布耸人听闻的言论博取流量、甚至诈骗等等。

图片截自央视新闻频道

另一方面，声音克隆技术还可以模仿我们亲友的声音，直接利用电话进行诈骗。考虑到电话或通讯软件的通话质量，克隆出来的声音就更难被听出来了。对此，我们应当高度警惕，凡是涉及金钱的线上交流一定要再三确认，提前跟亲友约定交(jiāo)流(liú)“暗(àn)号(hào)”，或(huò)者(zhě)多(duō)询问几件只有你和亲友知道的小事，就能让骗子立刻暴露。

眼见不为实

以前的网络时代，有句话叫“有图有真相”，可当 Photoshop 之类的图片编辑软件兴起后，图片造假已经屡见不鲜。然而，哪怕(pà)是(shì)经(jīng)过(guò)了(le)多(duō)年(nián) PS 假(jiǎ)照(zhào)片(piàn)洗(xǐ)礼(lǐ)的(de)网(wǎng)友(you)，面(miàn)对(duì) AI 生(shēng)成(chéng)的(de)精(jīng)良(liáng)图(tú)像(xiàng)，也(yě)难(nán)以(yǐ)分(fēn)辨(biàn)出(chū)来(lái)真(zhēn)假(jiǎ)。因(yīn)此(cǐ)也(yě)有(yǒu)人(rén)利(lì)用(yòng) AI 生(shēng)成(chéng)的(de)假(jiǎ)照(zhào)片(piàn)吸(xī)引(yǐn)流(liú)量(liàng)甚(shén)至(zhì)招(zhāo)摇(yáo)撞(zhuàng)骗(piàn)。

不(bù)仅(jǐn)是(shì)图(tú)片(piàn)， AI 甚(shén)至(zhì)已(yǐ)经(jīng)能(néng)做(zuò)出(chū)几(jǐ)可(kě)乱(luàn)真(zhēn)的(de)视(shì)频(pín)。2025年(nián)1月(yuè)初西藏日喀则市定日县发生 6.8 级地震，网上有很多救灾视频热传，引起了全国人民对灾区和救灾工作的关注，但其中也(yě)混(hùn)进(jìn)去(qù)了(le) AI 生(shēng)成(chéng)的(de)内(nèi)容(róng)。

比(bǐ)如(rú)下(xià)面(miàn)这(zhè)张(zhāng)“小(xiǎo)朋(péng)友(you)被(bèi)废(fèi)墟(xū)掩(yǎn)埋(mái)仍(réng)然(rán)坚(jiān)强(qiáng)”的(de)视(shì)频(pín)截(jié)图(tú)，一(yī)时(shí)间(jiān)热(rè)传(chuán)网(wǎng)络(luò)，感(gǎn)动(dòng)了(le)很(hěn)多(duō)网(wǎng)友(you)。

图片截自网络

然而这张截图实际上出自 AI 。有细心的网友发现图中的小朋友有 6 根手指，而这是 AI 生成图像内容时常犯的错误，进一步深挖后发现，这段内容其实来自(zì) 2024 年(nián) 11 月(yuè)，最(zuì)早(zǎo)发(fā)布(bù)的(de)博(bó)主自(zì)己(jǐ)按(àn)平(píng)台(tái)规(guī)定(dìng)标(biāo)注(zhù)了(le) AI 生(shēng)成(chéng)标(biāo)签(qiān)。

AI 生(shēng)成(chéng)的(de)图(tú)像(xiàng)内(nèi)容(róng)足(zú)以(yǐ)骗(piàn)过(guò)很(hěn)多(duō)人(rén)，而(ér) AI 生(shēng)成(chéng)视(shì)频(pín)再(zài)加(jiā)上(shàng)前(qián)文中(zhōng)提(tí)到(dào)的(de)语(yǔ)音(yīn)克(kè)隆(lóng)，就(jiù)会(huì)“1+1 >2”，生(shēng)成(chéng)更(gèng)有(yǒu)迷(mí)惑(huò)性(xìng)的(de)内(nèi)容(róng)。对(duì)此(cǐ)，我(wǒ)们(men)该(gāi)如(rú)何(hé)识(shi)别呢(ne)？下(xià)面(miàn)提(tí)供(gōng)一(yī)些(xiē)方(fāng)法(fǎ)：

· 观(guān)察(chá)人(rén)体(tǐ)结(jié)构(gòu)是(shì)否(fǒu)正(zhèng)确(què)。 AI 生(shēng)成(chéng)的(de)人(rén)很多都会出现多指、多足等方面的问题，或者其他人体结构出现违和感。

· 观察透视是否正确。真实的照片，平行的线条（如房梁、地砖缝等等）或其延长线，会因为透视关系相交于一点，而 AI 生成的图片常会弄错这点。

· 观察阴影是否矛盾。真实的照片，阴影和光源的关系会严格对应，但 AI 生成的照片常常会出现光源和影子方向出现矛盾的情况（如明明光源在正前方，但影子却在左边）。

· 观察图片中的文字，尤其是汉字是否正确。AI 生成汉字时经常会出现问题。

· 观察视频中人物的口型和语音是否能对应，或是否在人物说话时切换了别的镜头避免观众看到口型。

· 观察视频中人物动作（如转头）是否连贯，是否出现突兀的动作连接，是否出现细节的突然变化（发型细节、环境中的物品）。

· 借助专业工具，检查图片或视频是否有 AI 生成的特(tè)征(zhēng)。

需要注意的是，一方面，各类 AI 技术发展和更新非常快，很多低级错误 AI 不会再(zài)犯(fàn)。另一方面，很多(duō)人(rén)使(shǐ)用 AI 生成内容时会采取(qǔ)“炼(liàn)丹(dān)”模(mó)式，即一次性生成大量同类内容，再从其中挑选效果最好，最能以假乱真的内容。因此，前文中所说的所有检查方法，都不是万无一失的。

那么，这些 AI 生成的虚假信息，我们该如何应对呢？

建立“信息防火墙”

为了让大家了解 AI 伪造信息带来的挑战，先来看两个案例。从下图中标注重点的地方我们可以看到，一个很小的团队，利用 AI 就能在很短的时间内，炮制海量的不实信息，并且通过(guò)数(shù)以(yǐ)万(wàn)计(jì)的(de)账(zhàng)号(hào)，在(zài)社(shè)交(jiāo)媒(méi)体(tǐ)上(shàng)发(fā)布(bù)——毕(bì)竟(jìng)用(yòng) AI 批(pī)量(liàng)生(shēng)成(chéng)的(de)话(huà)，一(yī)篇(piān)文章(zhāng)只(zhǐ)需(xū)要(yào)几(jǐ)秒(miǎo)钟(zhōng)，而(ér)笔者即便对辟谣工作非常熟悉，平时有所积累，补充、核实资料来写作本文也需要好几个小时。

截自 《公安部公布 10 起打击整治“网络水军”违法犯罪典型案例》

这就带来了一个非常严重的问题，目前的技术进步，使信息的流动和分发大大加快了，而 AI 则让不实信息的生产速度也大大加快了，但经过核实，有理有据的内容，生产速度却难以提高。这就意味着，我们在网上，比以前更容易碰到不实信息，尤其是 AI 炮制的更能以假乱真的信息。

那么我们该如何应对呢？对此，可以给自己建立一道简单的“信息防火墙”。

首先就是“信息节食”。虽然我们每天都能接触到海量信息，但稍微回顾就会发现，实际上真正对我们有用的信息并不多，因此我们可以有意识地少装社交媒体 App，减少关注，减少信息的摄入。

其次是“情绪把关”。流量与利益直接相关，平台有流量的需求，各类自媒体博主也有流量的需求，而能刺激我们情绪（比如愤怒、恐惧）的信息更容易获得流量，很多不实信息往往也会按照刺激情绪的目的来设计。因此如果我们看到不可思议又带给我们强烈情绪刺激的内容，就要小心，不能轻信。

最后是“信源筛选”。政府机构发布信息时会非常慎重，有严格审核；而一些传统的资深媒体，往往发布信息时会保持基本的底线；还有一些网站、公众号是专门做查证辟谣工作的，这些来源的信息可信度更高。

来自腾讯研究院《AI 时代谣言套路拆解与防御指南》

对于普通网友来说，毕竟大家工作生活都很繁忙，也没有那么多时间去查资料核实信息，也没有精力去学习识别 AI 造假。这时我们只要记得看到觉得“不对劲”“让人将信将疑”“有AI感”的信息，不轻信、不转账、不转发，这样也能避免损失，阻断谣言的传播，为网络清朗贡献自己的一份力量。

策划制作

作者丨丁崝 科普作者

审核丨于乃功 北京工业大学教授 中国人工智能学会理事