【导语】随着AI技术的飞速发展，AI生成的文章、图片和视频作品日益增多。在享受AI带来的便捷时，人们也不禁好奇：平台是如何识别出这些AI作品的呢？本文将从AI生文、AI生图和AI生视频三个方面，深入探讨AI作品的识别方法与技术挑战，同时关注AI技术对人类语言和思维方式的潜在影响。

随着AI技术的不断发展，其生成的文章、图片和视频作品越来越多，比如我们在刷短视频时，常常会看到这样的提示：内容疑似AI生成。每次看到这，有人难免产生疑问，平台是怎么识别出来(lái)的(de)？肉(ròu)眼(yǎn)看(kàn)到(dào)的(de)明(míng)明(míng)是(shì)真(zhēn)人(rén)啊(a)，为(wèi)啥(shà)怀(huái)疑(yí)是(shì)AI作(zuò)品(pǐn)呢(ne)？

AI生(shēng)文

一(yī)般(bān)情(qíng)况(kuàng)下(xià)，单(dān)纯(chún)由(yóu)AI生(shēng)成(chéng)的(de)文章(zhāng)可(kě)能(néng)较(jiào)难(nán)被(bèi)直(zhí)接(jiē)识(shi)别(bié)出(chū)来(lái)。然(rán)而(ér)，AI生(shēng)成(chéng)的(de)文字(zì)往(wǎng)往(wǎng)在(zài)语(yǔ)言(yán)表(biǎo)达(dá)和逻辑结构上展现出一种模式化的特征，一旦大量复制此类内容，或是作品的语言风格、结构等与AI生成的典型模式高度吻合，就有可能被识别出来。

西湖大学工学院副院长、国际自然语言处理领域知名专家张岳表示，机器的思考偏向“统计性”，而人类的思考里除了“统计性”，还有“因果性”。人类能从经验中提炼因果逻辑，而AI缺乏这种(zhǒng)认(rèn)知(zhī)深(shēn)度(dù)。具(jù)体(tǐ)体(tǐ)现(xiàn)在(zài)当(dāng)遇(yù)到(dào)困(kùn)难(nán)，人(rén)类(lèi)会(huì)反(fǎn)思(sī)，但(dàn)这(zhè)种(zhǒng)能(néng)力(lì)大(dà)模(mó)型(xíng)尚(shàng)不(bù)具(jù)备(bèi)。

以(yǐ)写(xiě)文章(zhāng)为(wèi)例(lì)，AI的(de)写(xiě)法(fǎ)是(shì)学(xué)习(xí)现(xiàn)有(yǒu)的(de)数(shù)据(jù)，从(cóng)中(zhōng)挑(tiāo)选(xuǎn)最(zuì)“安(ān)全”的(de)词，也(yě)就(jiù)是(shì)按(àn)照概率高低来选词，这和人类写作的创造性有本质区别。例如在“我吃了一顿……”这个句式中，机器往往会在“吃”这一动词后使用搭配概率较高的“饭”，但人类可能会说：“我吃了一顿美味。”

再比如，只学过三位算数的AI并不能保证四位算数的准确率。或者，生成文本时，若遇到训练数据外的场景，AI可能编造出看似合理实则虚构的“幻觉内容”，杜撰出一(yī)篇(piān)不(bù)存(cún)在(zài)的(de)论(lùn)文。这(zhè)样(yàng)的(de)“致(zhì)命(mìng)伤(shāng)”导(dǎo)致(zhì)AI在(zài)虚(xū)拟(nǐ)世(shì)界(jiè)的(de)“聪(cōng)明(míng)”和(hé)在(zài)物(wù)理(lǐ)世(shì)界(jiè)的(de)“笨(bèn)拙(zhuō)”形(xíng)成(chéng)了(le)鲜(xiān)明(míng)对(duì)比(bǐ)。

还(hái)有(yǒu)一些反作弊手(shǒu)段(duàn)，比(bǐ)如(rú)某(mǒu)些(xiē)学(xué)校(xiào)或(huò)考(kǎo)试机构，通过查重系统等来检测作文是否存在抄袭或大量使用AI生成的情况，如果作文与已有大量文本相似度较高，就可能被判(pàn)定(dìng)为(wèi)违(wéi)规(guī)。某(mǒu)些(xiē)作(zuò)文中(zhōng)出(chū)现(xiàn)大(dà)量(liàng)过(guò)于(yú)流(liú)畅(chàng)、缺(quē)乏(fá)个(gè)性(xìng)的(de)语(yǔ)句(jù)，或(huò)者(zhě)逻(luó)辑(ji)过(guò)于(yú)规(guī)整(zhěng)而(ér)缺(quē)乏(fá)真(zhēn)实(shí)思(sī)考(kǎo)的(de)痕(hén)迹(jī)等(děng)，都(dōu)可(kě)能(néng)引(yǐn)起(qǐ)怀(huái)疑(yí)。

AI生(shēng)图(tú)

早(zǎo)期(qī)，AI生(shēng)图(tú)的(de)技(jì)术(shù)并(bìng)不(bù)完(wán)美(měi)，经(jīng)常(cháng)会(huì)留(liú)下(xià)操(cāo)纵(zòng)迹(jī)象(xiàng)。信(xìn)也(yě)科(kē)技(jì)算(suàn)法(fǎ)科(kē)学(xué)家(jiā)吕(lǚ)强(qiáng)表(biǎo)示(shì)，通(tōng)过(guò)肉(ròu)眼(yǎn)分(fēn)辨(biàn)图(tú)片(piàn)是(shì)否(fǒu)为(wèi)合(hé)成(chéng)，可(kě)以(yǐ)重(zhòng)点(diǎn)观(guān)察(chá)图(tú)片(piàn)中(zhōng)的(de)细(xì)节(jié)，例(lì)如(rú)观(guān)察(chá)图(tú)片(piàn)中(zhōng)的(de)手(shǒu)指(zhǐ)数(shù)量(liàng)是(shì)否(fǒu)正(zhèng)常(cháng)、眼(yǎn)神(shén)是(shì)否(fǒu)怪(guài)异(yì)、发(fā)丝(sī)看(kàn)起(qǐ)来(lái)是(shì)否(fǒu)真(zhēn)实(shí)等(děng)，如(rú)果(guǒ)一(yī)个(gè)眼(yǎn)睛(jing)看(kàn)前(qián)、一(yī)个(gè)眼(yǎn)睛(jing)看(kàn)左(zuǒ)就(jiù)有(yǒu)问(wèn)题(tí)。另(lìng)外(wài)，生(shēng)成(chéng)的(de)照(zhào)片(piàn)通(tōng)常(cháng)在(zài)光(guāng)影(yǐng)上(shàng)存(cún)在(zài)瑕(xiá)疵(cī)，并(bìng)缺(quē)乏(fá)照(zhào)片(piàn)基(jī)本(běn)参(cān)数(shù)，例(lì)如(rú)曝(pù)光(guāng)等(děng)。但(dàn)随(suí)着(zhe)AI的(de)进(jìn)步(bù)，这(zhè)种(zhǒng)观(guān)察(chá)变(biàn)得(de)困(kùn)难(nán)。

不(bù)过(guò)，研(yán)发(fā)这(zhè)些(xiē)AI图(tú)片(piàn)检(jiǎn)测(cè)软(ruǎn)件(jiàn)的(de)工(gōng)作(zuò)人(rén)员(yuán)尤(yóu)其(qí)注(zhù)意(yì)到(dào)，如(rú)果(guǒ)要(yào)辨(biàn)别(bié)一(yī)张(zhāng)人(rén)像(xiàng)的(de)真(zhēn)伪(wěi)，通(tōng)过(guò)分(fēn)析(xī)图(tú)像(xiàng)中(zhōng)人物的眼睛细节会是一种非常有效的方法。

人类的眼睛构造非常复杂，在光的折射下，人眼的反射角度、瞳孔的变化都会有很多细节的不同。现在的技术已经发展到可以从一段真实视频中的人物眼睛反射的“镜中像”，来分析人物所处环境甚至看到人物对面站着的人脸等细节。但目前“AI生成”的图片中，人像的眼睛是不可能保存这样的细节的，简单地说，看一张“AI生成”人像的眼球瞳孔的形状就可以一眼辨别真伪，因为真实的照片中人眼瞳孔形状通常是规则的圆形或者椭圆形，而AI照片中瞳孔形状大多是不规则的。

吕强指出，一种更高效的方法是采用AI对抗AI。通过AI识别，首先需要构建一个包括真图和假图的训练数据集，再利用大模型学习两类图片的不同特征，例如用AI学习图片曝光细节，“一张很灰暗的图片出现了一张整体偏白的人脸，这张图片可能就是经过人脸替换的。但有些人对光线不敏感(gǎn)，人(rén)眼(yǎn)可(kě)能(néng)就(jiù)识(shi)别(bié)不(bù)出(chū)来(lái)。”当(dāng)大(dà)模(mó)型(xíng)拥(yōng)有(yǒu)了(le)各(gè)类(lèi)细(xì)节(jié)的(de)识(shi)别(bié)能(néng)力(lì)后(hòu)，“把(bǎ)这(zhè)些(xiē)能(néng)力(lì)汇(huì)总(zǒng)起(qǐ)来(lái)，就(jiù)构(gòu)成(chéng)了(le)一(yī)个(gè)真(zhēn)假(jiǎ)图(tú)片(piàn)的辨别矩阵，然后对矩阵结果打分，最终给出来一个真假图片的评判结果。”不过，他也表示，利用AI识别生成图片，算法复杂度并非难点，挑战在数据：一是可能没有那么多假样本，二是要想让假样本覆盖到很多领域也有挑战。

AI生视频

目前，大多数视频都可以用AI生成，只不过这里很让人头疼的当属“换脸”视频，令人防不胜防，特别是对那些不太了解AI的人，一骗一个准儿，事后还要摇着脑袋说，这肯定不是AI。

事实上，AI 伪造视频所用的技术并不是最近才出现的，上世纪九十年代学术界就开始了面部替换和图像生成相关技术的研究。2014 年，伊恩·古德费洛（Ian Goodfellow）提出了生成对抗网络（GAN，Generative Adversarial Network），使得计算机可以生成更为逼真且高质量的图像。随着相关技术不断进步，AI不仅生成的视频分辨率更高、面部表情同步更自然，而且所需的数据更少、训练时间更短。

那么如何识(shi)别(bié)和检测一段视频的真伪呢？最简单的方法还是我们的“经验判断”——即用肉眼仔细分辨，还是能看出视频中人物的一些异常，比如面部表情的扭曲或眼神的不自然、眨眼次数过少、人物面部边缘模糊或者与背景的过渡明显不自然，甚至是人脸的光影效果与周围环境的光线情况不符等。

另外，在视频通话时，如果你无法分辨眼前与你视频通话的人是真是假，可以要求对方用手指按一按自己脸颊或鼻翼，因为目前已知的人脸仿冒技术，还不能仿冒人脸在受到外部压力时产生的变形，如果变(biàn)形(xíng)明(míng)显(xiǎn)不(bù)正(zhèng)常(cháng)，就(jiù)可(kě)以(yǐ)判(pàn)定(dìng)对(duì)方(fāng)是(shì)“换(huàn)脸(liǎn)人(rén)”。或者可以在自己的手机上安装相关的“打假”软件，来检测视频的对方皮肤的颜色是否会随正常的人类心跳频率保持一致地有规律变化(huà)。

也许在不久的将(jiāng)来(lái)，这(zhè)些(xiē)招(zhāo)数(shù)都(dōu)不(bù)好用了，因为这些异常可能会随着技术本身的不断提升变得越来越“正常”，我们已经不能完全相信自己的肉眼判断了。

在国内，有些企业将特定信息嵌入到多模态的数字载体中，支持图像、视频(pín)、音(yīn)频(pín)、文本等多模态数字载体，可以隐蔽嵌入水印信息，不影响原始内容质量和用户感知，同时抵御攻击，以免被删除或修改。这类技术应用到软件中，那么识别AI视频就会变得更加容易。

尽管当前的技术大幅提高了对AI生成文本识别的准确性，但张岳坦言，不久的将来，AI可能会发展出“反侦察”技术，从而提高内容识别难度，人与机器之间这种“矛”与“盾”的攻防角色会不断互换、演进。

令人担忧的是，当人类吸收的语料中越来越多混杂入AI生成内容，人类的语言会不会越来越接近AI？张岳表示，随着互联网上AI生成内容的不断增加，一批与AI相伴而生的年轻人可能会逐步学习AI的表达风格。但人类的表达始终具有“因果性”，目前与AI还存在本质区别。而未来，AI可能学会像人一样思考，届时识别难度可能更高。

编辑：晴晨本文综合整理自文汇报、潮新闻、羊城晚报、澎湃新闻等本文封面图及文内图片均由即梦AI生成。