本發明涉及視頻調度領域,尤指一種基于大模型的應急視頻監控調度方法。
背景技術:
1、隨著應急安全與監管需求提高、應用系統功能越來越多、數據種類增加和數據量變大,導致視頻監控調度難、應用系統聯動難、數據信息查詢難等問題。針對應急指揮大廳場景需要操作使用的應用系統、視頻監控和業務數據數量龐大,業務人員很難快速、準確的理解領導意圖并從中找到需要的資源。給應急指揮大廳工作人員和領導帶來了以下困擾。
2、視頻數量多:隨著安全與監管需求提高,監控視頻數量不斷增加;
3、檢索難度高:視頻管理層級多,監控命名混亂,理解用戶查詢意圖困難;
4、實時反應慢:發生異常情況,難以立即作出反應,人工依賴較強。
5、因此,如何設計出一種能夠根據用戶需求快速識別調取到視頻對于本領域技術人員而言是亟需解決的問題。
技術實現思路
1、本發明通過引入大模型算法,能夠自動分析監控視頻,快速識別異常行為和事件,減少人工調度監控的工作量,提高響應速度;本發明的語音控制功能可簡化操作流程,讓監控人員在處理其他任務時也能快速調度和查看監控畫面,提高整體工作效率;此外本發明降低了操作門檻:為不熟悉技術的用戶提供簡單易用的操作方式,使更多人員能夠高效使用監控系統。
2、為實現上述目的,本發明采用的技術方案是:提供了一種基于大模型的應急視頻監控調度方法,包括以下步驟:
3、步驟s101,對視頻監控進行標簽管理,建立點位標簽信息庫;
4、步驟s102,識別用戶的語音指令,進行信息提取;
5、步驟s103,基于意圖信息庫分析用戶的意圖;
6、步驟s104,根據用戶意圖對視頻監控進行智能調度。
7、作為優選,所述步驟s101中,建立點位標簽信息庫包括以下步驟:
8、步驟s1011、點位標識定義:提供每個點位的名稱及描述,理解點位的位置和用途;為每個點位分配一個唯一識別碼,以便快速識別點位;
9、步驟s1012、點位屬性梳理:定義點位的類型,記錄點位的物理位置和與點位相關的技術參數;
10、步驟s1013、點位管理:更新點位的屬性、類型和位置信息;
11、步驟s1014、標簽創建:根據監控點位的特點和業務需求來定義標簽;
12、步驟s1015、持續維護與更新:利用新的數據源和用戶反饋不斷維護和擴充點位標簽庫,以適應應用需要的發展。
13、作為優選,所述步驟s102中,基于大模型的語義理解能力,在指揮中心視頻調度場景中將語音指令中的內容進行歸納分析,并按照行政區域-場所名稱-場所本體-場所點位-點位本體-監控屬性的槽位體系進行精準填充。
14、更優的,所述將語音指令中的內容進行歸納分析的具體步驟包括前端語音處理和后端語音處理,并建立語料信息庫;
15、其中所述建立語料信息庫內容包括:
16、語料信息分類:根據應急管理領域語料的特征,對詞匯進行分類;
17、初始詞庫建立:通過收集應急救援數據資源,建立初始的語料庫;
18、nlp提取:利用文本挖掘技術,從文本數據中發現新的語料詞匯;
19、標注規則制定:制定標注規則,包括詞性標注、句法分析、實體識別工作對語料信息進行標注;
20、對處理過的文本進行多輪質量控制檢查;
21、審查與補充:對收集的語料詞匯進行人工審查,剔除不適合或錯誤的條目,同時進行更新和補充。
22、更優的,所述前端語音處理功能包括端點檢測和噪音消除。
23、更優的,所述后端語音處理功能包括詞匯庫、連續語音識別、智能標點添加、置信度輸出、多識別結果、多槽識別、熱詞識別和識別日志。
24、更優的,所述置信度反映了識別結果的可信程度,通過采用召回率precall、準確率pprecision、調和平均數paverage和漢明損失函數hamloss作為判斷的評價指標,具體如下:
25、
26、其中,ntp表示為預測為p且真實類別為p的樣本數;nfp表示為預測為p且真實類別不為p的樣本數;nffp表示為預測不為p且真實類別不為p的樣本數;n表示樣本總數,k表示總標簽數,y和分別表示為第i個樣本對應的真實值和預測值,xor是異或邏輯運算。
27、作為優選,所述步驟s103中,通過建立意識圖識別庫,整合和分析用戶的意圖,從講話者的表述中提取關鍵信息,判斷講話者的需求,并根據需求轉化為指令。
28、作為優選,所述建立意圖識別庫還包括建立意圖識別庫模型,利用人工智能算法訓練分類模型來識別用戶講話的意圖,并支持在指揮中心視頻調度場景中,將智能助手的反饋內容合成為語音進行播放,實現用戶和智能調度系統之間的雙向語音交互。
29、作為優選,所述步驟s104中,根據分析出用戶的意圖,指揮調度值班人員,快速定位視頻源,實時了解現場情況。
30、與現有技術相比,本發明還包括以下優點:
31、1、通過實時獲取和處理大量的視頻數據,設置aiagent視頻調度助手其具備強大的數據整合能力,實現實時數據的匯聚、處理和展示,為決策者提供及時的信息支持。
32、2、視頻精準調度:在應對突發事件時,視頻監控是非常重要的信息來源。通過本發明方法通過識別指揮中心工作人員的需求,快速調取相關視頻資源,實現實時在線調閱。
33、3、人機交互優化:為提高工作人員的工作效率,降低操作難度,還設置人機交互功能,簡化操作流程,提供語音、文字等多種交互方式。
34、綜合以上所述,本發明包括實時信息獲取與處理、智能問答與信息檢索、視頻精準調度、系統調用與協同聯動和人機交互優化等方面,為政府或企業智能化升級提供全方位的支持。
1.一種基于大模型的應急視頻監控調度方法,其特征在于,包括以下步驟:
2.根據權利要求1所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述步驟s101中,建立點位標簽信息庫包括以下步驟:
3.根據權利要求1所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述步驟s102中,基于大模型的語義理解能力,在指揮中心視頻調度場景中將語音指令中的內容進行歸納分析,并按照行政區域-場所名稱-場所本體-場所點位-點位本體-監控屬性的槽位體系進行精準填充。
4.根據權利要求3所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述將語音指令中的內容進行歸納分析的具體步驟包括前端語音處理和后端語音處理,并建立語料信息庫;
5.根據權利要求4所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述前端語音處理功能包括端點檢測和噪音消除。
6.根據權利要求4所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述后端語音處理功能包括詞匯庫、連續語音識別、智能標點添加、置信度輸出、多識別結果、多槽識別、熱詞識別和識別日志。
7.根據權利要求6所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述置信度反映了識別結果的可信程度,通過采用召回率precall、準確率pprecision、調和平均數paverage和漢明損失函數hamloss作為判斷的評價指標,具體如下:
8.根據權利要求1所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述步驟s103中,通過建立意識圖識別庫,整合和分析用戶的意圖,從講話者的表述中提取關鍵信息,判斷講話者的需求,并根據需求轉化為指令。
9.根據權利要求8所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述建立意圖識別庫還包括建立意圖識別庫模型,利用人工智能算法訓練分類模型來識別用戶講話的意圖,并支持在指揮中心視頻調度場景中,將智能助手的反饋內容合成為語音進行播放,實現用戶和智能調度系統之間的雙向語音交互。
10.根據權利要求1所述的一種基于大模型的應急視頻監控調度方法,其特征在于,所述步驟s104中,根據分析出用戶的意圖,指揮調度值班人員,快速定位視頻源,實時了解現場情況。