2023年7月，依圖發(fā)布了智能安防領域首個可實戰(zhàn)可商用的多模態(tài)大模型—依圖天問1.0。發(fā)布至今，依圖天問大模型基座已完成了兩次迭代升級，并率先在全國50多個項目中部署應用。 近日，在第十屆中國（上海）國際技術進出口交易會上，依圖科技最新版本的“依圖天問大模型4.0”正式發(fā)布，以全新的交互體驗、超高的進化能力，重新定義了多模態(tài)大模型在智能安防領域的應用邊界。 此次發(fā)布的依圖天問大模型4.0實現(xiàn)了眾多功能的跨越式升級：融合自然語言與視覺信息，大幅提升視頻內容的模糊檢索能力；支持多條件組合場景布控，實現(xiàn)精細化布控和風險管理；依圖天問4.0升級后的預訓練模型支持算法極少樣本冷啟動，通過Agent代理輔助訓練，真正實現(xiàn)了“想法既算法”的智能飛躍。??????

視頻理解更細微，語義檢索更豐富?????????

語言交互的模糊性來源于語境的多樣性。依圖天問4.0引入多模態(tài)視覺搜索技術，將自然語言與視覺信息融合，以“用戶”為主，深刻理解語境中的細微差別，例如：當需要搜索“騎電動車帶多個煤氣罐”的視頻內容時，用戶只需用日常語言描述需求，系統(tǒng)便可呈現(xiàn)出最貼近意圖的搜索結果。同時，還可以針對視頻內容里細小目標做模糊化檢索。這些能力極大地提升了城市管理者日常運營和決策調度中的工作效率，降低了溝通成本。

全要素理解、多條件布控更全面

高精度的視頻內容理解，解鎖了復雜視頻場景布控的可能。機器可以代替人去看視頻，像人一樣看"懂"視頻，對視頻內容進行全場景、全要素的理解，就可以對典型的場景目標和規(guī)則進行精準布控，提前預警潛在風險，科學高效地輔助決策。依圖天問4.0支持多條件組合的場景布控，可幫助管理者進行精細化風險防控和管理。在城市管理、環(huán)境監(jiān)測、公共安全等領域，這項技術展現(xiàn)出極高的實戰(zhàn)應用價值。?

樣本更少更高效，現(xiàn)場訓練更靈活

智能系統(tǒng)的一大特征是可以根據(jù)環(huán)境和需求的變化快速適配。傳統(tǒng)的機器學習模型面對新的算法任務，需重新收集數(shù)據(jù)、訓練模型，至少要1-3個月。依圖天問4.0升級了預訓練模型，可實現(xiàn)1分鐘內對極少樣本的新算法進行冷啟動，1小時內完成在線標注訓練，1天內快速部署上線。通過日常工作過程中快速積累的數(shù)據(jù)飛輪，操作人員每天花幾分鐘對齊數(shù)據(jù)、簡單點擊對錯，幾天時間就可讓算法達到超過90%的準確率，展現(xiàn)出前所未有的智能化和靈活性，充分滿足業(yè)務系統(tǒng)的敏捷性和管理的時效性。

想法即算法，Agent輔助更智能

Agent（代理）在多模態(tài)大模型體系里扮演著至關重要的角色。AI Agent能夠基于歷史交互記錄和現(xiàn)有的算法能力，做出更為精準的決策輔助。依圖天問4.0可輔助逐步對齊認知，解構重組算法。例如：當我們想訓練一個“大型倉庫里的小型叉車”，Agent會針對“大型倉庫”和“小型叉車”的語義做對齊，從而使得用戶的想法可以快速轉化為直觀的算法，讓用戶的每一個想法都能即時轉化為直觀的操作指令，實現(xiàn)“想法即算法”的飛躍，呈現(xiàn)出工作助手、智能體的靈動與高效特征。

AI新時代，因為看見，所以相信！

2019年起，依圖就開始了以Transformer為基礎的大模型研究與應用探索。2020年，依圖推出預訓練語言理解模型ConvBERT，通過全新的注意力模塊，僅用1/10的訓練時間和1/6的參數(shù)就獲得了與谷歌BERT模型一樣的精度，相比OpenAI的GPT-3，可用更少時間去探索語言模型的訓練，也降低了模型在預測時的計算成本。2023年7月，依圖天問多模態(tài)大模型正式發(fā)布，快速在全國項目中部署應用。

依圖天問多模態(tài)大模型的工作范式，從傳統(tǒng)深度學習的像素標注升級到了多模態(tài)大模型的表征對齊，通過視覺與語言模型的深度融合，歸一了物理世界和認知世界的底層框架，構建起物理與認知世界的橋梁，實現(xiàn)了用戶需求與技術創(chuàng)新的完美對接。此次發(fā)布的依圖天問4.0在類人交互、情境理解、認知進化等方面再次迭代出新特點，提升了多模態(tài)大模型對復雜視頻內容的理解和發(fā)現(xiàn)能力。? 依圖求索新十年，在垂直視覺領域，隨著工程化應用逐步落地，內容理解的復雜度不斷提升，目標特征、關系特征、空間特征、行為特征、統(tǒng)計特征、知識特征、業(yè)務推理不斷解鎖。而多模態(tài)大模型在理論基礎上的不斷突破，讓我們也看到解鎖更多應用場景的可能。 我們堅信，在智能安防領域，多模態(tài)大模型將發(fā)揮出更大潛能，尤其是在個性化需求強烈、環(huán)境多變的復雜場景中，將展現(xiàn)出更大的商業(yè)和社會價值?；跀?shù)據(jù)與算力的智能化運營將成為公共安全和城市治理的新常態(tài)，各行各業(yè)也必將隨著技術的突破性發(fā)展真正邁入人工智能的新時代。