【資料圖】

人工智能領(lǐng)域的競(jìng)爭(zhēng)將是激烈的，也是出乎意料的。要跟上行業(yè)發(fā)展，監(jiān)管理念、技術(shù)和相應(yīng)的法律體系需抓緊完善。我們鼓勵(lì)創(chuàng)新的“七十二變”，但保護(hù)用戶隱私和消費(fèi)者權(quán)益的“緊箍咒”一定得戴上。

只花9.9元，上傳二十幾張照片，就能獲取一套人工智能生成的寫真集。過(guò)去兩周，“妙鴨相機(jī)”小程序成為我國(guó)生成式人工智能領(lǐng)域的一個(gè)爆款應(yīng)用。刷屏的同時(shí)，妙鴨也刷出了用戶隱私保護(hù)、消費(fèi)者權(quán)益保護(hù)等“暗雷”，提醒我們?nèi)斯ぶ悄芪幢厝缦胂笾心敲疵篮谩?/p>

先來(lái)看隱私保護(hù)。現(xiàn)在搜索“妙鴨相機(jī)”，各渠道排在前面的關(guān)聯(lián)熱詞都是“妙鴨相機(jī)會(huì)盜取個(gè)人信息嗎”“妙鴨相機(jī)安全嗎”，表明安全性已成為用戶最關(guān)注的問(wèn)題。而這恰恰是妙鴨最先踩中的雷，上線不久，就有媒體報(bào)道，妙鴨用戶協(xié)議中明確規(guī)定，“您特此授權(quán)我方在全世界（包括元宇宙等虛擬空間）范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費(fèi)的和非獨(dú)家的許可，使得我方可以任何形式、任何媒體或技術(shù)（無(wú)論現(xiàn)在已知或以后開發(fā)）使用您的內(nèi)容”。這就相當(dāng)于企業(yè)試圖占有用戶的臉，還要用戶倒貼9.9元。

人臉是一個(gè)人最核心的生物信息之一，如果被濫用、盜用，可能會(huì)成為AI詐騙、網(wǎng)絡(luò)色情等非法活動(dòng)的素材來(lái)源，危害無(wú)窮。盡管被質(zhì)疑后，妙鴨很快更新了協(xié)議，稱“不會(huì)提取識(shí)別信息，不會(huì)用于識(shí)別用途，服務(wù)完成后，系統(tǒng)將自動(dòng)刪除上述信息，不予留存”，但作為一家生成式人工智能的創(chuàng)業(yè)公司，內(nèi)部居然能認(rèn)可并上線第一版協(xié)議，可見企業(yè)對(duì)用戶隱私的漠視以及對(duì)法律的無(wú)知。這也說(shuō)明，人工智能行業(yè)還需強(qiáng)化用戶隱私信息保護(hù)的底線意識(shí)。

妙鴨踩中的第二個(gè)雷，是消費(fèi)者權(quán)益保護(hù)。據(jù)媒體報(bào)道，妙鴨規(guī)定“一旦購(gòu)買成功，不支持退款”。上海市消費(fèi)者權(quán)益保護(hù)委員會(huì)對(duì)此發(fā)聲：涉嫌侵害消費(fèi)者公平交易權(quán)。隨后，妙鴨宣布照片生成失敗可退款。

開發(fā)這款小程序的企業(yè)提供的服務(wù)屬于在線虛擬服務(wù)，原本不在消費(fèi)者權(quán)益保護(hù)法規(guī)定的7日無(wú)理由退貨范疇。消費(fèi)者一旦上傳素材，不管最終生成的照片效果如何，已實(shí)際使用了帶寬和企業(yè)提供的技術(shù)，企業(yè)事實(shí)上履行了合同。從這個(gè)角度講，企業(yè)有理由拒絕退費(fèi)。

然而，消費(fèi)類企業(yè)必須回答一個(gè)問(wèn)題：起草、執(zhí)行相關(guān)服務(wù)協(xié)議時(shí)，是從保障消費(fèi)者權(quán)益出發(fā)，還是從自身利益考量出發(fā)？如果只是嘴上喊著“優(yōu)化消費(fèi)體驗(yàn)”，實(shí)際拋出的卻是冷冰冰的條款，采取簡(jiǎn)單粗暴的執(zhí)行手段，給用戶的感覺完全不友好，這不僅無(wú)助于產(chǎn)品與服務(wù)品質(zhì)的塑造提升，更不可能吸引消費(fèi)者對(duì)品牌的信任追隨。妙鴨從拒絕到同意的態(tài)度轉(zhuǎn)變，值得深思。

小程序揭示的人工智能風(fēng)險(xiǎn)隱患才剛剛冒頭，仍存在不少值得研究的問(wèn)題。例如，企業(yè)承諾自動(dòng)刪除用戶信息，誰(shuí)來(lái)監(jiān)督落實(shí)？用戶把堪比個(gè)人證件照的高精度正面照交給一家小創(chuàng)業(yè)公司，它有沒有能力抵御黑客攻擊？風(fēng)潮過(guò)去后，企業(yè)會(huì)不會(huì)倒閉？這不是杞人憂天，妙鴨也在用戶協(xié)議中提醒，“如果出現(xiàn)合并、分立、解散、破產(chǎn)等情況，用戶個(gè)人信息可能會(huì)轉(zhuǎn)移到接收方”。在這個(gè)過(guò)程中，用戶信息能不能得到妥善保護(hù)，接收方又會(huì)如何處理用戶信息？這一切都是充滿了風(fēng)險(xiǎn)的未知數(shù)。

妙鴨入水，激起了數(shù)據(jù)時(shí)代的監(jiān)管新挑戰(zhàn)。互聯(lián)網(wǎng)大廠投入巨資開發(fā)的文心一言、通義千問(wèn)等大模型，免費(fèi)給用戶使用，沒能做成爆款；一家名不見經(jīng)傳的小企業(yè)，推出一個(gè)要用戶掏錢的小程序竟然做到了。這預(yù)示著，人工智能領(lǐng)域的競(jìng)爭(zhēng)將是激烈的，也是出乎意料的。要跟上行業(yè)發(fā)展，監(jiān)管理念、技術(shù)和相應(yīng)的法律體系需抓緊完善。我們鼓勵(lì)創(chuàng)新的“七十二變”，但保護(hù)用戶隱私和消費(fèi)者權(quán)益的“緊箍咒”一定得戴上。

（文章來(lái)源：經(jīng)濟(jì)日?qǐng)?bào)）

關(guān)鍵詞：