【导语】人工智能（AI）时不时“一本正经地胡说八道”令人恼火？可能是你的AI被“投毒”了。近期，国家安全部发布安全提示指出，AI训练数据存在良莠不齐问题，虚假信息和偏见性观点导致的数据“污染”给AI安全带来挑战。专家表示，要从技术层面解决AI训练数据污染问题，AI开发者需在数据筛选验证、实时监测和溯源等方面加强努力。面对不完美的AI，日常使用时应持谨慎态度，对重要决策务必向专业人士核实。

还在为人工智能（AI）时不时“一本正经地胡说八道”恼火？

或许，你的AI被“投毒”了。8月5日，国家安全部发布安全提示，AI训练数据存在良莠不齐的问题，虚假信息、虚构内容和偏见性观点导致的数据“污染”，给AI安全带来挑战。

“训练数据之于AI，就像教科书之于学生。”中国科学院计算技术研究所工程师刘延嘉将AI比喻成勤奋好学的学生，“AI正是通过学习文本、图像、行为等数据构建认知模型，形成对世界的理解与判断能力。若教科书内容存在错误或偏见，学生的知识体系必然扭曲。”

研究显示，当训练数据(jù)中(zhōng)仅(jǐn)有(yǒu)0.01%的(de)虚(xū)假(jiǎ)文本(běn)时(shí)，AI模(mó)型(xíng)输(shū)出(chū)的(de)有(yǒu)害(hài)内(nèi)容(róng)会(huì)增(zēng)加(jiā)11.2%；即(jí)使(shǐ)是(shì)0.001%的(de)虚(xū)假(jiǎ)文本(běn)，有(yǒu)害(hài)输(shū)出(chū)也(yě)会(huì)上(shàng)升(shēng)7.2%。“训(xun)练(liàn)数(shù)据(jù)的(de)细(xì)微(wēi)瑕(xiá)疵(cī)，也(yě)可(kě)能(néng)导(dǎo)致(zhì)AI输(shū)出(chū)错(cuò)误(wù)、偏(piān)见(jiàn)甚(shén)至(zhì)危(wēi)险(xiǎn)的(de)结(jié)果(guǒ)。”刘(liú)延(yán)嘉(jiā)说(shuō)。

AI的(de)训(xun)练(liàn)数(shù)据(jù)为(wèi)何(hé)会(huì)被(bèi)“污(wū)染(rǎn)”？

“数(shù)据(jù)被(bèi)污(wū)染(rǎn)的(de)情(qíng)况(kuàng)较(jiào)复(fù)杂(zá)，既(jì)有(yǒu)人(rén)为(wèi)故(gù)意(yì)‘数(shù)据(jù)投(tóu)毒(dú)’的(de)可(kě)能(néng)，也(yě)可(kě)能(néng)因(yīn)数(shù)据(jù)收(shōu)集、整(zhěng)理(lǐ)过(guò)程(chéng)缺(quē)乏(fá)严(yán)格(gé)规(guī)范(fàn)和(hé)审(shěn)核(hé)所(suǒ)致(zhì)。”同(tóng)盾(dùn)人工智能研究院执行院长董纪伟说，受到数据污染的AI生成的虚假内容，可能成为后续AI训练的数据源，形成具有延续性的“污染遗留效应”。

董纪伟认为，“数据放大效应”或是更大的隐性风险，“AI可能通过算法强化，将数据中的一些偏见演变为系统性偏见，并在输出时将其奉为‘真理’。”

如今，网上AI生成内容数量已超过人类生(shēng)产(chǎn)的(de)真(zhēn)实(shí)内(nèi)容(róng)，大(dà)量(liàng)低(dī)质(zhì)量(liàng)及(jí)非(fēi)客(kè)观(guān)数(shù)据(jù)充(chōng)斥(chì)其(qí)中(zhōng)。“当(dāng)AI训(xun)练(liàn)数(shù)据(jù)中(zhōng)的(de)错(cuò)误(wù)信(xìn)息(xi)逐(zhú)代(dài)累(lèi)积(jī)，必(bì)然(rán)会(huì)扭(niǔ)曲(qū)AI本(běn)身(shēn)的(de)认(rèn)知(zhī)能(néng)力(lì)。”董(dǒng)纪(jì)伟(wěi)提(tí)醒(xǐng)。

“毒(dú)”数(shù)据(jù)对(duì)AI输(shū)出(chū)的(de)影(yǐng)响，远不止“一本正经地胡说八道”这么简单，往往还具有“隐性但致命”特征。试想，当“涉毒”AI广泛应用于日常，人们可能因AI的错误诊断延误治疗；投资者可能被AI推荐的虚假高收(shōu)益(yì)项(xiàng)目(mù)欺(qī)骗(piàn)；汽(qì)车(chē)可(kě)能(néng)因(yīn)AI的(de)错(cuò)误(wù)导(dǎo)航(háng)而(ér)迷(mí)失(shī)方(fāng)向(xiàng)……

这(zhè)样(yàng)的(de)AI，谁(shuí)敢(gǎn)放(fàng)心(xīn)用(yòng)？

目(mù)前(qián)，《生(shēng)成(chéng)式(shì)人(rén)工(gōng)智(zhì)能(néng)服(fú)务(wu)管(guǎn)理(lǐ)暂(zàn)行(xíng)办(bàn)法(fǎ)》和(hé)新(xīn)版(bǎn)《数(shù)据(jù)安(ān)全法(fǎ)》已(yǐ)经(jīng)将(jiāng)AI训(xun)练(liàn)数(shù)据(jù)纳(nà)入(rù)监(jiān)管(guǎn)。但(dàn)专(zhuān)家(jiā)认(rèn)为(wèi)，要(yào)从(cóng)技(jì)术(shù)层(céng)面(miàn)解(jiě)决(jué)AI训(xun)练(liàn)数(shù)据(jù)污(wū)染(rǎn)问(wèn)题(tí)，还(hái)有(yǒu)待(dài)AI开(kāi)发(fā)者(zhě)在(zài)数(shù)据(jù)筛选验证机制、数据实时监测和数据溯源等方面付出更多努力。正如中国工程院院士邬贺铨所言：“AI的安全边界，最终取决于数据的质量底线。”

面对并不完美的AI，我们又该如何应对？

董纪伟建议，日常使用AI时应持谨慎态度，如果AI给出的回答涉及重要决策，务必向专业人士核实。“当然，也可用多个AI工具对同一问题进行询问，通过对比答案来判断AI的可靠性。若发现AI频繁给出不合理或错误回答，可直接更换AI工具。”

（科普时报记者 陈杰）