2023年人工智能之自然語言處理行業(yè)發(fā)展趨勢分析

• 王毅博 2023年10月17日 來源：中研網(wǎng) 1482 98
• 繁體

定義：自然語言處理(NaturalLanguageProcessing,NLP)是計算機科學(xué)領(lǐng)域與人工智能領(lǐng)域中的一個重要方向。它研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。自然語言處理是一門融語言學(xué)、計算機科學(xué)、數(shù)學(xué)于一體的科學(xué)。因此，這一領(lǐng)域的研究將涉及自然語言，即人們?nèi)粘Ｊ褂玫恼Z言，所以它與語言學(xué)的研究有著密切的聯(lián)系，但又有重要的區(qū)別。自然語言處理并不是一般地研究自然語言，而在于研制能有效地實現(xiàn)自然語言通信的計算機系統(tǒng)，特別是其中的軟件系統(tǒng)。因而它是計算機科學(xué)的一部分[1]。

自然語言處理主要應(yīng)用于機器翻譯、輿情監(jiān)測、自動摘要、觀點提取、文本分類、問題回答、文本語義對比、語音識別、中文OCR等方面。

概念和技術(shù)

信息抽?。↖E）

信息抽取是將嵌入在文本中的非結(jié)構(gòu)化信息提取并轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)的過程，從自然語言構(gòu)成的語料中提取出命名實體之間的關(guān)系，是一種基于命名實體識別更深層次的研究。信息抽取的主要過程有三步：首先對非結(jié)構(gòu)化的數(shù)據(jù)進行自動化處理，其次是針對性的抽取文本信息，最后對抽取的信息進行結(jié)構(gòu)化表示。信息抽取最基本的工作是命名實體識別，而核心在于對實體關(guān)系的抽取。

自動文摘

自動文摘是利用計算機按照某一規(guī)則自動地對文本信息進行提取、集合成簡短摘要的一種信息壓縮技術(shù)，旨在實現(xiàn)兩個目標(biāo)：首先使語言的簡短，其次要保留重要信息。

語音識別技術(shù)

語音識別技術(shù)就是讓機器通過識別和理解過程把語音信號轉(zhuǎn)變?yōu)橄鄳?yīng)的文本或命令的技術(shù)，也就是讓機器聽懂人類的語音，其目標(biāo)是將人類語音中的詞匯內(nèi)容轉(zhuǎn)化為計算機可讀的數(shù)據(jù)。要做到這些，首先必須將連續(xù)的講話分解為詞、音素等單位，還需要建立一套理解語義的規(guī)則。語音識別技術(shù)從流程上講有前端降噪、語音切割分幀、特征提取、狀態(tài)匹配幾個部分。而其框架可分成聲學(xué)模型、語言模型和解碼三個部分。

Transformer模型

Transformer模型在2017年，由Google團隊中首次提出。Transformer是一種基于注意力機制來加速深度學(xué)習(xí)算法的模型，模型由一組編碼器和一組解碼器組成，編碼器負責(zé)處理任意長度的輸入并生成其表達，解碼器負責(zé)把新表達轉(zhuǎn)換為目的詞。Transformer模型利用注意力機制獲取所有其他單詞之間的關(guān)系，生成每個單詞的新表示。Transformer的優(yōu)點是注意力機制能夠在不考慮單詞位置的情況下，直接捕捉句子中所有單詞之間的關(guān)系。模型拋棄之前傳統(tǒng)的encoder-decoder模型必須結(jié)合RNN或者CNN(ConvolutionalNeuralNetworks,CNN)的固有模式，使用全Attention的結(jié)構(gòu)代替了LSTM，減少計算量和提高并行效率的同時不損害最終的實驗結(jié)果。但是此模型也存在缺陷。首先此模型計算量太大，其次還存在位置信息利用不明顯的問題，無法捕獲長距離的信息。

基于傳統(tǒng)機器學(xué)習(xí)的自然語言處理技術(shù)

自然語言處理可將處理任務(wù)進行分類，形成多個子任務(wù)，傳統(tǒng)的機械學(xué)習(xí)方法可利用SVM（支持向量機模型）、

Markov（馬爾科夫模型）、CRF（條件隨機場模型）等方法對自然語言中多個子任務(wù)進行處理，進一步提高處理結(jié)果的精度。但是，從實際應(yīng)用效果上來看，仍存在著以下不足：(1)傳統(tǒng)機器學(xué)習(xí)訓(xùn)練模型的性能過于依賴訓(xùn)練集的質(zhì)量，需要人工標(biāo)注訓(xùn)練集，降低了訓(xùn)練效率。(2)傳統(tǒng)機器學(xué)習(xí)模型中的訓(xùn)練集在不同領(lǐng)域應(yīng)用會出現(xiàn)差異較大的應(yīng)用效果，削弱了訓(xùn)練的適用性，暴露出學(xué)習(xí)方法單一的弊端。若想讓訓(xùn)練數(shù)據(jù)集適用于多個不同領(lǐng)域，則要耗費大量人力資源進行人工標(biāo)注。(3)在處理更高階、更抽象的自然語言時，機器學(xué)習(xí)無法人工標(biāo)注出來這些自然語言特征，使得傳統(tǒng)機器學(xué)習(xí)只能學(xué)習(xí)預(yù)先制定的規(guī)則，而不能學(xué)規(guī)則之外的復(fù)雜語言特征。

基于深度學(xué)習(xí)的自然語言處理技術(shù)

深度學(xué)習(xí)是機器學(xué)習(xí)的一大分支，在自然語言處理中需應(yīng)用深度學(xué)習(xí)模型，如卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等，通過對生成的詞向量進行學(xué)習(xí)，以完成自然語言分類、理解的過程。與傳統(tǒng)的機器學(xué)習(xí)相比，基于深度學(xué)習(xí)的自然語言處理技術(shù)具備以下優(yōu)勢：(1)深度學(xué)習(xí)能夠以詞或句子的向量化為前提，不斷學(xué)習(xí)語言特征，掌握更高層次、更加抽象的語言特征，滿足大量特征工程的自然語言處理要求。(2)深度學(xué)習(xí)無需專家人工定義訓(xùn)練集，可通過神經(jīng)網(wǎng)絡(luò)自動學(xué)習(xí)高層次特征。

圖表：2019-2023年全球自然語言處理市場規(guī)模（單位：億美元）

數(shù)據(jù)來源：中研普華整理

NLP市場規(guī)模預(yù)計將從2019年的102億美元增長到2023年的244億美元。隨著智能設(shè)備數(shù)量增長以及行業(yè)智能化業(yè)務(wù)處理水平要求的提高，自然語言處理市場有望得到進一步拓展。2019-2023年，全球自然語言處理規(guī)模復(fù)合年均增長率達到24.3%。

專利庫競品公司：智慧芽

智慧芽(PatSnap)成立于2007年10月，是一家科技創(chuàng)新情報SaaS服務(wù)商，聚焦科技創(chuàng)新情報和知識產(chǎn)權(quán)信息化服務(wù)兩大板塊。通過機器學(xué)習(xí)、計算機視覺、自然語言處理（NLP）等人工智能技術(shù)，為科技公司、高校和科研機構(gòu)、金融機構(gòu)等提供大數(shù)據(jù)情報服務(wù)。公司創(chuàng)始人張濟徽，本科畢業(yè)于新加坡國立大學(xué)生物工程專業(yè)，2007年創(chuàng)辦智慧芽PatSnap。旗下產(chǎn)品包括PatSnap全球?qū)＠麛?shù)據(jù)庫、Innosnap知識產(chǎn)權(quán)管理系統(tǒng)、Insights英策專利分析系統(tǒng)、Discovery創(chuàng)新情報系統(tǒng)、LifeScience系列數(shù)據(jù)庫等。

2021年3月17日，智慧芽(PatSnap)宣布完成3億美元的E輪融資，本輪融資由騰訊和軟銀愿景基金二期領(lǐng)投，CPE跟投，紅杉中國、順為資本和祥峰投資等老股東繼續(xù)加持。指數(shù)資本擔(dān)任獨家財務(wù)顧問。從規(guī)模來看，該筆融資是2020年以來SaaS行業(yè)最大一筆融資，伴隨此輪融資智慧芽估值也超過10億美元。

智慧芽的自然語言處理技術(shù)

通過大數(shù)據(jù)處理和文本聚類，從專利中挖掘關(guān)鍵技術(shù)信息：不需要人工大量投入閱讀和標(biāo)引精力；對專利的引用量、PatSnap同族數(shù)、侵權(quán)訴訟量、申請人、專利價值等多個維度做聚類分析，找重點專利。

通過語義理解、向量相似度比對，降低尋找目標(biāo)專利的難度：系統(tǒng)結(jié)合輸入內(nèi)容，挖掘文本的語義信息，在數(shù)據(jù)庫做相似性匹配；語義相似度算法模型主要包括關(guān)鍵詞及其擴展模型、語義向量模型和語義圖譜向量模型，同時結(jié)合實踐經(jīng)驗形成的規(guī)則。

智能的自動處理機制：利用OCR技術(shù)自動識別官文，根據(jù)文檔規(guī)則觸發(fā)內(nèi)部和官方期限，減少用戶重復(fù)作業(yè)。支持CPC一鍵轉(zhuǎn)檔、遞交以及CPC來文的自動獲取，并且定期對自有公開專利的著錄項目、法律狀態(tài)、權(quán)利要求、說明書、附圖信息，利用智慧芽專利數(shù)據(jù)資源自動更新，減少手動狀態(tài)維護。

欲了解更多自然語言處理市場行業(yè)的未來發(fā)展前景，可以點擊查看中研普華產(chǎn)業(yè)院研究報告《自然語言處理市場行業(yè)深度研究報告》?！?/a>

關(guān)注公眾號

免費獲取更多報告節(jié)選

免費咨詢行業(yè)專家

• 相關(guān)深度報告REPORTS

  

  2023-2028年停車場管理系統(tǒng)行業(yè)深度分析及投資戰(zhàn)略研究咨詢報告

  中研普華通過對停車場管理系統(tǒng)行業(yè)長期跟蹤監(jiān)測，分析停車場管理系統(tǒng)行業(yè)需求、供給、經(jīng)營特性、獲取能力、產(chǎn)業(yè)鏈和價值鏈等多方面的內(nèi)容，整合行業(yè)、市場、企業(yè)、用戶等多層面數(shù)據(jù)和信息資源，...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡