澎湃新聞?dòng)浾?方曉

(資料圖片僅供參考)

新聞網(wǎng)站評(píng)級(jí)工具NewsGuard發(fā)布2023年6月的錯(cuò)誤信息監(jiān)控結(jié)果，稱141個(gè)品牌正在向低質(zhì)量的人工智能（AI）生成的網(wǎng)站提供廣告收入，來支持這些不可靠網(wǎng)站的發(fā)展。

這些網(wǎng)站在幾乎沒有人監(jiān)督的情況下運(yùn)行，每天平均生成上千條文章，其中包括錯(cuò)誤信息，特別是誤導(dǎo)用戶的醫(yī)療健康信息。

科技媒體The Verge稱，人工智能正在扼殺舊網(wǎng)絡(luò)，而新網(wǎng)絡(luò)正在掙扎著誕生，“生成式人工智能模型正在改變網(wǎng)絡(luò)經(jīng)濟(jì)，使生成低質(zhì)量?jī)?nèi)容變得更便宜。我們才剛剛開始看到這些變化的影響。”

發(fā)現(xiàn)217個(gè)不可靠的AI生成新聞和信息網(wǎng)站

NewsGuard分析發(fā)現(xiàn)，發(fā)布在AI生成內(nèi)容網(wǎng)站上的廣告似乎是以編程方式生成的，這意味著公司不是選擇將其廣告投放在這些網(wǎng)站上，而是通過投放廣告的系統(tǒng)自動(dòng)定位。大多數(shù)廣告是由谷歌的工具投放的。?

NewsGuard將不可靠的AI生成新聞和信息網(wǎng)站（UAIN）定義為，在很少或沒有人類監(jiān)督的情況下運(yùn)行的網(wǎng)站，并發(fā)布主要或完全由機(jī)器人撰寫的文章。就在上個(gè)月，NewsGuard分析師將新推出的UAIN網(wǎng)站跟蹤器上的網(wǎng)站數(shù)量從49個(gè)更新為217個(gè)。?

盡管許多廣告商及其廣告代理商維護(hù)著“品牌不安全”網(wǎng)站的“排除列表”，但這些列表往往沒有保持最新狀態(tài)，顯然沒有跟上UAIN網(wǎng)站激增的步伐。?

2023年5月和6月，NewsGuard分析師確定了來自141個(gè)主要品牌的393個(gè)程序化廣告（programmatic ad，利用技術(shù)手段實(shí)現(xiàn)數(shù)字廣告購(gòu)買和銷售的過程），這些廣告出現(xiàn)在NewsGuard確定的217個(gè)UAIN網(wǎng)站中的55個(gè)上。NewsGuard發(fā)現(xiàn)的廣告，提供給了美國(guó)、德國(guó)、法國(guó)和意大利四個(gè)國(guó)家的互聯(lián)網(wǎng)分析師。?

一家運(yùn)動(dòng)服裝公司的廣告出現(xiàn)在NoticiasDeEmprego.com.br網(wǎng)站上，這是一家UAIN網(wǎng)站，發(fā)布由人工智能生成的關(guān)于巴西工作機(jī)會(huì)的新聞。NewsGuard用一個(gè)黑塊屏蔽了這個(gè)程序化廣告。

NewsGuard沒有點(diǎn)名提供這些廣告的公司，它們包括各種各樣的藍(lán)籌廣告商：6家大型銀行和金融服務(wù)公司、4家豪華百貨公司、3家運(yùn)動(dòng)服裝領(lǐng)先品牌、3家電器制造商、兩家世界上最大的消費(fèi)技術(shù)公司、兩家全球電子商務(wù)公司、兩家美國(guó)頂級(jí)寬帶提供商、美國(guó)廣播網(wǎng)絡(luò)提供的3家流媒體服務(wù)、一個(gè)硅谷數(shù)字平臺(tái)和一家歐洲大型連鎖超市。?

程序化廣告使用算法和高級(jí)拍賣流程，直接向個(gè)人用戶而不是特定網(wǎng)站提供具有高度針對(duì)性的數(shù)字廣告。這意味著廣告在用戶瀏覽互聯(lián)網(wǎng)時(shí)有效地“關(guān)注”他們。?由于這個(gè)過程非常不透明，品牌可能不知道他們正在資助UAIN網(wǎng)站的傳播，因?yàn)閺V告是通過第三方購(gòu)買的，并且涉及多個(gè)中介機(jī)構(gòu)。?

假作者傳播可疑健康信息

NewsGuard發(fā)現(xiàn)的所有393個(gè)廣告都直接出現(xiàn)在包含由AI生成的錯(cuò)誤信息的文章旁邊。?

?一些出現(xiàn)主要品牌廣告的UAIN網(wǎng)站似乎使用人工智能工具重寫主流新聞媒體的文章。例如，AlaskaCommons.com發(fā)表的一篇文章似乎是英國(guó)小報(bào)《太陽報(bào)》美國(guó)版文章的AI重寫版本，連圖片和措辭都類似。AlaskaCommons.com的文章經(jīng)常將作者名寫為Ingrid Taylor，自今年年初以來，這位“作者”已經(jīng)發(fā)表了4364篇文章，其中僅在2023年6月15日一天就發(fā)表了108篇文章。

一些網(wǎng)站平均每天生成超過1200篇文章，幾乎沒有明顯的人工編輯監(jiān)督。相比之下，根據(jù)2022年4月的數(shù)據(jù)，《紐約時(shí)報(bào)》通常每天發(fā)表約150篇文章。

大多數(shù)AI生成的網(wǎng)站質(zhì)量低，但不會(huì)傳播錯(cuò)誤信息。然而，NewsGuard發(fā)現(xiàn)，MedicalOutline.com推廣未經(jīng)證實(shí)和潛在有害的自然健康療法，標(biāo)題如“檸檬能治愈皮膚過敏嗎？”“ADHD的5種自然療法是什么？”和“你如何自然地預(yù)防癌癥。”?

對(duì)于UAIN網(wǎng)站來說，快速將其內(nèi)容貨幣化非常簡(jiǎn)單。在谷歌AdSense的登錄頁(yè)面上，谷歌稱網(wǎng)站可以輕松地賺取程序化廣告收入：“您所要做的就是將AdSense代碼放入您的網(wǎng)站，它就會(huì)立即開始工作。”

自2023年5月首次開始跟蹤UAIN網(wǎng)站以來，NewsGuard每周已確定約25個(gè)新網(wǎng)站，5月初，其報(bào)告還只確定了49個(gè)“似乎幾乎完全由人工智能軟件編寫”的網(wǎng)站。而UAIN網(wǎng)站的總數(shù)可能比NewsGuard目前識(shí)別的217個(gè)網(wǎng)站多得多。

一家全球租車公司的廣告出現(xiàn)在FoodingWorld.com上，這是一個(gè)UAIN網(wǎng)站，發(fā)布AI生成的關(guān)于食物的文章。NewsGuard用黑塊擋住了這些程序化廣告。

如果一個(gè)網(wǎng)站符合以下所有4個(gè)標(biāo)準(zhǔn)，則NewsGuard將其視為不可靠的人工智能生成新聞和信息網(wǎng)站：第一，有明確的證據(jù)表明，該網(wǎng)站的很大一部分內(nèi)容是由人工智能制作的；第二，有強(qiáng)有力的證據(jù)表明，內(nèi)容是在沒有人類監(jiān)督的情況下發(fā)布的；第三，該網(wǎng)站的呈現(xiàn)方式讓普通讀者認(rèn)為其內(nèi)容是由人類作家或記者制作的；第四，該網(wǎng)站沒有明確披露其內(nèi)容是由人工智能制作的。

也不一定是壞事

近幾個(gè)月來，已有多家媒體報(bào)道AI生成內(nèi)容正在污染互聯(lián)網(wǎng)。當(dāng)?shù)貢r(shí)間6月26日，The Verge高級(jí)記者詹姆斯·文森特（James Vincent）發(fā)表了一篇措辭激烈的評(píng)論文章。他寫道：“ChatGPT正被用來生成全是垃圾的網(wǎng)站。Etsy（手工藝品電子商務(wù)網(wǎng)站）充斥著‘AI生成的垃圾’。聊天機(jī)器人在錯(cuò)誤信息的烏龍中相互引用。LinkedIn正在使用人工智能來刺激疲勞的用戶。Snapchat和Instagram希望機(jī)器人能在你朋友不在時(shí)與你交談……互聯(lián)網(wǎng)檔案館正在對(duì)抗數(shù)據(jù)刮刀，而人工智能正在把維基百科撕碎。舊的網(wǎng)絡(luò)正在消亡，而新的網(wǎng)絡(luò)正在掙扎著誕生。”

文森特認(rèn)為，當(dāng)然，網(wǎng)絡(luò)多年來一直在死亡，被那些從網(wǎng)站上轉(zhuǎn)移流量的應(yīng)用程序或獎(jiǎng)勵(lì)“縮短注意力”的算法所扼殺。但在2023年，它又在消亡，一個(gè)新的催化劑在發(fā)揮作用：人工智能。

他打了一個(gè)比方：“網(wǎng)站創(chuàng)造了順暢的、功能豐富的平臺(tái)，并向任何人敞開大門，讓他們加入。他們把盒子放在我們面前，我們用文字和圖片填滿這些盒子，人們就來看看這些盒子的內(nèi)容。這些公司追逐規(guī)模，因?yàn)橐坏┯凶銐虻娜司奂谌魏蔚胤剑ǔ＞陀修k法從他們身上賺錢。但人工智能改變了這些假設(shè)。”

因?yàn)椋灰匈Y金和計(jì)算能力，人工智能系統(tǒng)，尤其是目前流行的生成模型，可以毫不費(fèi)力地進(jìn)行擴(kuò)展。它們會(huì)產(chǎn)生大量文本和圖像，很快也會(huì)產(chǎn)生音樂和視頻。其產(chǎn)出有可能超過或勝過人們現(xiàn)在所依賴的新聞、信息和娛樂平臺(tái)。但這些系統(tǒng)的質(zhì)量往往很差。“這些模型是在上個(gè)網(wǎng)絡(luò)時(shí)代奠定的數(shù)據(jù)層上訓(xùn)練出來的，它們對(duì)這些數(shù)據(jù)的再現(xiàn)并不完美。公司從開放的網(wǎng)絡(luò)上搜刮信息，并將其提煉成機(jī)器生成的內(nèi)容，這些內(nèi)容生成成本低，但可靠性差。然后這種產(chǎn)品與之前的平臺(tái)和人爭(zhēng)奪注意力。”文森特指出。

最成功的網(wǎng)站往往是利用規(guī)模發(fā)揮其優(yōu)勢(shì)的網(wǎng)站，要么通過增加社會(huì)聯(lián)系或產(chǎn)品選擇，要么通過對(duì)構(gòu)成互聯(lián)網(wǎng)本身的巨大信息群進(jìn)行分類，但這種規(guī)模依賴于大量人類來創(chuàng)造潛在價(jià)值，在大規(guī)模生產(chǎn)方面，人類顯然無法擊敗人工智能。

但文森特最后也談到，這不一定是件壞事。“有人會(huì)說，這只是世界運(yùn)行的方式，指出網(wǎng)絡(luò)本身就扼殺了之前的東西，而且往往是為了更好的發(fā)展。例如，印刷版百科全書幾乎已經(jīng)絕跡，但我更喜歡維基百科的廣度和可及度，而不是《大英百科全書》的厚重感和安全感。對(duì)于所有與人工智能生成的寫作有關(guān)的問題，也有很多方法可以改進(jìn)它——從改進(jìn)引用功能到更多的人工監(jiān)督。此外，即使網(wǎng)絡(luò)上充斥著人工智能的垃圾，它也可能被證明是有益的，能刺激資金更充足的平臺(tái)發(fā)展。例如，如果谷歌在搜索中不斷給你提供垃圾結(jié)果，你可能會(huì)更傾向于為你信任的來源付費(fèi)并訪問它們。”

歸根結(jié)底，人工智能目前引起的變化只是網(wǎng)絡(luò)歷史上長(zhǎng)期斗爭(zhēng)的最新成果。從本質(zhì)上講，這是一場(chǎng)關(guān)于信息的戰(zhàn)斗——關(guān)于誰制造信息，如何獲取信息，以及誰獲得報(bào)酬。

關(guān)鍵詞：