虛假賬號(hào)不斷進(jìn)化,AI能做的還是有限
你的社交平臺(tái)擁有多少個(gè)粉絲?
一千?一萬?還是更多?你知道其中存在多少個(gè)“僵尸粉”嗎?
近日,據(jù)美國權(quán)威科技媒體The Information引述研究機(jī)構(gòu)Ghost Data的報(bào)告稱,2015年,Instagram平臺(tái)的僵尸賬號(hào)占比為7.9%,到目前已經(jīng)攀升至9.5%。Instagram的閱讀用戶已經(jīng)增加到了十億人。根據(jù)上述比例,Instagram平臺(tái)上現(xiàn)在大約有9500萬個(gè)僵尸賬號(hào)。
有媒體評(píng)論指出,如此規(guī)模的“僵尸賬號(hào)”,讓Instagram成為下一個(gè)互聯(lián)網(wǎng)行業(yè)打擊假新聞、假信息和政客營銷的重要陣地。
為什么這么說 ,恐怕得看看“網(wǎng)絡(luò)水軍”在近些年的“杰作”。 2017 年,至少有 18 個(gè)國家在選舉中遭遇了線上操縱和虛假信息策略,包括德國聯(lián)邦總統(tǒng)選舉期間社交機(jī)器人活躍和垃圾新聞?lì)l出等。
顯然,治理“網(wǎng)絡(luò)水軍”已成為全球難題。而由于其分散、量大兼具技術(shù)隱蔽性,對(duì)其的治理更需要講究專業(yè)化和智能化。此時(shí),人工智能也派上了用處。
道高一尺,魔高一丈,虛假賬號(hào)與AI的斗智斗勇
從創(chuàng)建應(yīng)用軟件、官方網(wǎng)站或內(nèi)容傳播平臺(tái),到生產(chǎn)具有實(shí)質(zhì)性內(nèi)容的圖像、視頻或文字,通過或真或假或自動(dòng)地與用戶交互,虛假賬號(hào)已經(jīng)越來越“真實(shí)”。就在去年,有研究表明,連人工智能都可以被用來生成復(fù)雜的點(diǎn)評(píng)信息,而這些虛假的點(diǎn)評(píng)不僅機(jī)器無法檢測出來,就連人類讀者也分辨不出來。
虛假賬號(hào)不再“虛假”,整個(gè)社交網(wǎng)站都面臨著潛在卻嚴(yán)重的沖擊。智能相對(duì)論(aixdlun)分析師顏璇梳理了三種智能“鑒粉”方式,分別囊括了用戶行為、內(nèi)容和情感特征三種形式,試圖解決這一問題。
首先是用戶行為特征的分析。這種方式大多依托于爬蟲技術(shù),即通過主動(dòng)爬取特定微博或者論壇的主體相關(guān)的注冊(cè)行為、社交行為、轉(zhuǎn)發(fā)與評(píng)論等行為 , 從而進(jìn)行多維特征向量刻畫。同時(shí),有研究者還采用了隱馬爾可夫模型來對(duì)用戶行為進(jìn)行建模,利用模型參數(shù)來對(duì)用戶行為進(jìn)識(shí)別和分類,畢竟“僵尸”掉進(jìn)了“植物”里,總是有區(qū)別的。
這主要是利用賬號(hào)之間的社會(huì)關(guān)系來識(shí)別那些“僵尸號(hào)”。而面對(duì)這種方式,水軍們也“與時(shí)俱進(jìn)”,比如一些職業(yè)差評(píng)師的賬號(hào)在注冊(cè)行為上就無懈可擊,他們的賬號(hào)一般會(huì)同時(shí)配備有身份證、用戶手持證件照、實(shí)名手機(jī)號(hào)碼卡、實(shí)名銀行卡等,還能通過作弊軟件騙過實(shí)名認(rèn)證系統(tǒng)。即使是微博里的“僵尸粉”,也會(huì)存在一些粉絲關(guān)系。
第一種方式被“見招拆招”,AI也不得不拿出第二種方式,即對(duì)內(nèi)容特征的分析。基于內(nèi)容分析的識(shí)別技術(shù)主要從發(fā)帖內(nèi)容本身切入 ,建立“僵尸粉”、惡意或者美化信息等本體模型, 同時(shí)建立敏感語義庫,通過語言特征統(tǒng)計(jì)區(qū)分虛假賬號(hào)。
但是,由于語義領(lǐng)域的不統(tǒng)一性,同一本體在不同領(lǐng)域,甚至同一領(lǐng)域都會(huì)存在很多象征意義的現(xiàn)狀,比如用戶在討論某手機(jī)時(shí),提到“這手機(jī)的上網(wǎng)速度真快”,“快”是一種夸贊,如果說“這手機(jī)耗電速度真快”,“快”又變成了一種批評(píng)。因此,內(nèi)容特征模型在不同的情況、平臺(tái)上都會(huì)有較大的變化,這也造成了AI分析內(nèi)容特征進(jìn)而識(shí)別“僵尸粉”的通用性較差的問題。
如此來看,基于單一特征對(duì)虛假賬號(hào)進(jìn)行識(shí)別還是比較困難的,因此,AI也不得不開始思考第三種方式。第三種方式源于第二種方式,即對(duì)內(nèi)容中情感特征的分析。
有研究者通過分析推特內(nèi)容中的情感,發(fā)現(xiàn)在線社交網(wǎng)絡(luò)中的內(nèi)容創(chuàng)建、傳播與證券市場波動(dòng)、期貨商品價(jià)格及國家、社會(huì)重大事件之間有著緊密的聯(lián)系。這也表明情感傾向是社交網(wǎng)站內(nèi)容中的重要特征。
而水軍也往往帶有強(qiáng)烈的感情色彩(好評(píng)或差評(píng)),針對(duì)單個(gè)發(fā)帖的情感傾向性,AI可以設(shè)定一個(gè)閾值,若對(duì)某個(gè)主題發(fā)表的正面或者負(fù)面帖子比例超過設(shè)定閾值,,則認(rèn)為該用戶為水軍。
但是,用于虛假賬號(hào)監(jiān)測的內(nèi)容和情感特征的融合,屬于比較明顯的特征,而忽視了隱藏式的異常用戶,比如用戶上傳與文字內(nèi)容沒有任何關(guān)系的圖片, 抑或者用戶評(píng)論情感與用戶打分不匹配等新特征。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
8月5日立即報(bào)名>> 【在線會(huì)議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
推薦專題