車萬翔教授:ACL 2010-2020 研究趨勢(shì)總結(jié)
文本生成強(qiáng)勢(shì)上升
嚴(yán)格來講自然語言處理應(yīng)被分為自然語言處理和自然語言生成兩個(gè)方向,然而受到技術(shù)的限制,傳統(tǒng)的文本生成多采用基于模板的方法,因此在研究上并沒有引起太多的關(guān)注。隨著序列到序列模型的產(chǎn)生,人們意識(shí)到可以采用類似的方法進(jìn)行逐詞的文本生成,從而產(chǎn)生了大量的研究和應(yīng)用問題,因此文本生成也成為了目前自然語言處理的熱門研究領(lǐng)域。今年ACL上的研究熱點(diǎn)如下圖所示。
問答系統(tǒng)絕地反擊
隨著斯坦福大學(xué)SQuAD數(shù)據(jù)集的誕生,以抽取式閱讀理解為代表的問答系統(tǒng)近年來引起了大量的關(guān)注。但是為什么說是“絕地反擊”呢?主要是因?yàn)樵诟弥埃瑔柎鹣到y(tǒng)就曾經(jīng)是信息檢索和自然語言處理領(lǐng)域的熱門研究方向,但是受限于當(dāng)時(shí)的技術(shù)手段,答案準(zhǔn)確率并不是很高,因此該研究方向曾一度被人們所冷落。經(jīng)過這幾年的發(fā)展,問答系統(tǒng)的模型逐漸被預(yù)訓(xùn)練模型所統(tǒng)一,因此今年ACL上的相關(guān)文章更關(guān)注問答系統(tǒng)的各個(gè)子任務(wù)或引入更多資源。
新任務(wù)和資源挑戰(zhàn)機(jī)器
仍然是受預(yù)訓(xùn)練模型的影響,在很多剛被提出不久的自然語言處理任務(wù)上,機(jī)器的表現(xiàn)很快超過人類。因此最近有大量的研究工作試圖提出對(duì)機(jī)器更具有挑戰(zhàn)性的任務(wù)和資源,從而逼迫機(jī)器更像人一樣“思考”。
機(jī)器翻譯有所衰落
幾家歡樂幾家愁,由于上述領(lǐng)域的快速崛起,更重要的是由于模型逐漸為Transformer所統(tǒng)一,使得機(jī)器翻譯這一“老牌”自然語言處理任務(wù)受關(guān)注的程度有所降低。今年ACL的相關(guān)研究也分散到不同的翻譯場(chǎng)景設(shè)置上。
句法分析逐漸式微
和機(jī)器翻譯類似,句法分析這一曾經(jīng)自然語言處理領(lǐng)域的當(dāng)家任務(wù)也逐漸式微。其背后的原因有兩個(gè):一方面是因?yàn)锽iaffine Parser的出現(xiàn)證明了結(jié)構(gòu)學(xué)習(xí)這一自然語言處理的特色問題,對(duì)于句法分析并不重要;另一方面,預(yù)訓(xùn)練模型的出現(xiàn)使得句法分析的處境更是雪上加霜。預(yù)訓(xùn)練模型不但能大幅提高句法分析的效果,更重要的是其內(nèi)部已經(jīng)蘊(yùn)含了句法結(jié)構(gòu)信息,因此就無需為下游任務(wù)提供顯式的句法結(jié)構(gòu)了。由于這些原因,今年ACL上句法分析的熱點(diǎn)也主要集中在了研究探針任務(wù)和句法分析的應(yīng)用上了。不過蘇州大學(xué)李正華老師所提出的高階TreeCRF模型還是能進(jìn)一步提升句法分析的效果,這一點(diǎn)非常難得。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
7月8日立即報(bào)名>> 【在線會(huì)議】英飛凌新一代智能照明方案賦能綠色建筑與工業(yè)互聯(lián)
-
7月22-29日立即報(bào)名>> 【線下論壇】第三屆安富利汽車生態(tài)圈峰會(huì)
-
7.30-8.1火熱報(bào)名中>> 全數(shù)會(huì)2025(第六屆)機(jī)器人及智能工廠展
-
7月31日免費(fèi)預(yù)約>> OFweek 2025具身智能機(jī)器人產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用論壇
-
免費(fèi)參會(huì)立即報(bào)名>> 7月30日- 8月1日 2025全數(shù)會(huì)工業(yè)芯片與傳感儀表展
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 AI 眼鏡讓百萬 APP「集體失業(yè)」?
- 2 豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
- 3 一文看懂視覺語言動(dòng)作模型(VLA)及其應(yīng)用
- 4 “支付+”時(shí)代,支付即生態(tài) | 2025中國(guó)跨境支付十大趨勢(shì)
- 5 中國(guó)最具實(shí)力AI公司TOP10
- 6 深圳跑出40億超級(jí)隱形冠軍:賣機(jī)器人年入6.1億,港股上市
- 7 特斯拉Robotaxi上路,馬斯克端上畫了十年的餅
- 8 “AI六小虎”到了下一個(gè)賽點(diǎn)
- 9 張勇等人退出阿里合伙人
- 10 AI的夏天:第四范式VS云從科技VS地平線機(jī)器人