米兰竞技足球俱乐部
中華人民共和國教育部主管 中國高等教育學會主辦
刊號:CN11-4994/T(國內) ISSN1672-1438(國際)
中國期刊全文數據庫 中文科技期刊數據庫
中國核心期刊遴選數據庫
首頁 米兰体育官方 雜誌目錄 期刊封麵 推薦閱讀 顧問專家 投稿須知 米兰彩票站 訂閱須知 廣告業務
您當前的位置:米兰竞技足球俱乐部 >> 首頁 >> 資訊平台
高教 普教
總465期 總463期 總461期
總459期 總457期 總455期
總453期 總451期 總449期
總447期 總445期 總443期
 裝備時空 更多>>
《米兰竞技足球俱乐部》雜誌2025年暑期係列活動成功舉辦
 編務說明 更多>>
 資訊平台  
浪潮K1 Power助力東南大學搭建科研高性能大數據平台
來源:《米兰竞技足球俱乐部》雜誌 時間:2021-8-3 11:33:47

  近年來,我國人工智能產(chan) 業(ye) 發展迅猛,圖像識別、語音識別、視頻分析與(yu) 大數據處理等技術創新應用進入世界先進行列,我國人工智能發明專(zhuan) 利授權總量居全球第一,核心產(chan) 業(ye) 規模持續增長,已形成覆蓋技術層和應用層的完整產(chan) 業(ye) 鏈和應用生態,並不斷創造出新市場、新發展機會(hui) 。數據顯示,截至去年底,全球人工智能產(chan) 業(ye) 規模達1565億(yi) 美元,同比增長12.3%;我國產(chan) 業(ye) 規模為(wei) 434億(yi) 美元,同比增長13.75%,超過全球增速。在全球人工智能競爭(zheng) 格局中,中國已躋身第一梯隊。

  人工智能的發展將給交通、金融、工業(ye) 、能源、媒體(ti) 等行業(ye) 帶來數字化升級的新思路和新解法,甚至已經開始重塑行業(ye) 麵貌,進而影響人類社會(hui) 的未來。人工智能的飛速發展,離不開產(chan) 、學、研、用各方的共同努力,尤其離不開學、研界的前瞻研究。

 

  科研先行夯實產(chan) 業(ye) 發展學術根基

  東(dong) 南大學自動化學院籌建於(yu) 1957年,是國內(nei) 最早設立自動化專(zhuan) 業(ye) 的院係之一,是國家“985工程”和“211工程”建設重點支持單位,曾於(yu) 2017年入選國家首批“雙一流”建設學科。學院開設有控製理論與(yu) 控製工程等國家重點學科專(zhuan) 業(ye) ,建有控製科學與(yu) 工程一級學科博士後流動站和長江學者特聘教授崗位,還設有“複雜工程係統測量與(yu) 控製”教育部重點實驗室,承擔了一大批國家級和省部級基礎研究和科技攻關(guan) 項目,在網絡控製、智能控製、集群控製、極地科考等領域已取得具有國際水平的研究成果,SCI、EI論文收錄均列全國前列,在國際和國內(nei) 控製界具有較大影響,有力地夯實了產(chan) 業(ye) 發展的學術根基。

  近年來,隨著AI技術的加速發展,安防監控、無人機、手機終端等大量以圖片視頻為(wei) 主的數據量激增,視頻分析與(yu) 大數據處理是成為(wei) 人工智能的重點發展方向。

  緊跟產(chan) 業(ye) 發展趨勢,在公共安全領域,東(dong) 南大學自動化學院針對網絡監控視頻分析、車載監控視頻分析、無人機航拍視頻分析等關(guan) 鍵技術,麵向網絡監控視頻、車載監控視頻、無人機航拍監控視頻、多型號飛機試飛視頻等,進行海量視頻智能分析與(yu) 環境感知的基礎研究與(yu) 工程應用工作。

 

  科研高性能大數據平台建設麵臨(lin) 重重挑戰

  基於(yu) 視頻大數據分析的基礎研究與(yu) 工程應用離不開高性能的計算平台支持,高性能的計算平台是助推學科快速發展及產(chan) 業(ye) 結合的關(guan) 鍵。此外,上述項目多為(wei) 與(yu) 國內(nei) 多家重點單位合作的國家級重點科研項目,數據量已超過100TB,且對數據保密的剛性要求極高,須使用網絡隔離的專(zhuan) 用的獨立計算平台。

  東(dong) 南大學自動化學院副教授、碩士研究生導師夏思宇教授表示,科研高性能大數據平台不僅(jin) 要提供滿足科研任務需求的算法支撐,還要提供一整套包括數據安全存儲(chu) 、數據分析,數據管理的解決(jue) 方案。

  大數據分析平台作為(wei) 係統建設的核心,承擔著對指定視頻文件進行基於(yu) 內(nei) 容的快速分析比對,從(cong) 海量標簽化、內(nei) 容特征化的視頻片段庫中快速分析、搜索、比對、匹配出相似內(nei) 容特征的視頻文件,為(wei) 大並發場景提供強大的計算分析能力的任務。以和國網合作進行視頻分析與(yu) 大數據處理項目為(wei) 例,數據通常先由GPU節點對視頻實現切片、特征提取、標注、入庫工作。同時標注後的視頻數據將為(wei) AI算法模型的構建、學習(xi) 、迭代提供數據集支撐。訓練完成後的模型將部署在GPU節點,為(wei) 實時視頻接入時的在線推理、分析處理提供算法支撐;而大數據分析節點作為(wei) 核心,將對數據存儲(chu) 中的數據進行讀取、比對分析、處理、回寫(xie) 等操作,為(wei) 大並發場景提供強大的計算分析能力。該項目因數據為(wei) 分辨率不低於(yu) 1200萬(wan) 像素的高清原始視頻及分析後的切片等,要求大數據平台還須提供海量存儲(chu) 空間及高性能的IO訪問能力。

  同樣的需求廣泛存在於(yu) 智能製造、醫療、體(ti) 育運動、健康等行業(ye) ,需要對數據進行全生命周期的管理,夏思宇補充到。

 

  浪潮K1 Power以三高一強特性打造高性能大數據平台

  簡而言之,東(dong) 南大學科研高性能大數據平台首先要具備強大的計算能力和大內(nei) 存容量,以實現毫秒級的快速響應,高主頻、多線程的處理器有利於(yu) 縮短計算時間,提升並發處理能力;此外,還須具備TB級或者PB級的海量存儲(chu) 能力,且須保證較大的IO帶寬;最重要的,該大數據平台還須滿足長時間7×24不間斷穩定運行,特別是核心計算設備,需要保證單機的可靠性達到5個(ge) 9,每年計劃外宕機不超過5分鍾。

  通過綜合選型,東(dong) 南大學最終確定了以浪潮K1 Power服務器打造科研高性能大數據平台。

  在該科研高性能大數據平台解決(jue) 方案中,配備了1台浪潮K1 Power FP5280G2作為(wei) 整個(ge) 集群管理節點,同時部署國產(chan) 浪潮InsightHD大數據管理平台;配備了2台浪潮K1 Power FP5280G2作為(wei) 業(ye) 務管理節點,並采用Master/Slave主備模式部署Namenode(HDFS元數據),HBase Master/Standby,ResourceManager(YARN資源管理)等業(ye) 務管理組件。

  值得一提的是,該大數據平台解決(jue) 方案對計算及存儲(chu) 資源采用了分層、分區設計,針對在線數據分析計算過程對內(nei) 存容量、存儲(chu) IO帶寬有較高要求,采用計算存儲(chu) 融合模式,配備12台浪潮IPS FP5280G2節點,既作為(wei) 計算分析節點,同時也作為(wei) 高速HDFS(SSD)存儲(chu) 節點,提供23TB可用存儲(chu) 空間,可對15個(ge) 左右的鐵塔1天的視頻數據進行在線分析。針對大容量數據的存儲(chu) 需求,配備3台浪潮IPS FP5466G2分布式存儲(chu) 節點,構建海量存儲(chu) 空間,為(wei) SPARK,MR,HBASE提供不低於(yu) 192TB存儲(chu) 空間,可以與(yu) 在線數據間實現分級存儲(chu) ,同時采用雙口100G網絡,為(wei) 數據訪問提供20GB/s的前端接口,防止數據瓶頸。利用HDFS分層策略,保證數據主副本在計算存儲(chu) 融合節點SSD高速存儲(chu) HDFS空間,其他副本在存儲(chu) 節點提供大容量HDFS空間,並根據SSD使用率自動完成數據向後端遷移。

  在平台軟件層麵則采用浪潮IsightHD大數據平台軟件,包含Hadoop生態、Spark生態、全文檢索生態等主要組件,提供海量數據的采集、存儲(chu) 、計算、分析挖掘、數據操作、管理監控、和數據安全等能力,以滿足用戶高性能大數據運算平台的需求。

  經投產(chan) 實踐檢驗,采用浪潮K1 Power架構的高性能大數據平台憑借其高性能、高IO帶寬及每核的多線程等優(you) 勢,保證了海量視頻數據的實時存儲(chu) 與(yu) 分析,高可靠、高安全特性亦滿足了業(ye) 務7×24的不間斷運行;無限拓展的容量滿足了海量視頻庫的PB級存儲(chu) 需要,並實現了在線數據間的存儲(chu) 分級。此外,還兼容了平台既有的Linux操作係統、C/C++開發語言及編譯環境,不限於(yu) HDFS,YARN,SPARK,MR,HBASE等大數據生態組件和基礎環境,滿足科研需求的同時,培養(yang) 了大量科研人才,並建立起完整的科研隊伍,促進了學科和產(chan) 業(ye) 界的良性發展。


本網版權聲明:
凡本刊本網發布的所有文字作品,版權均屬於《米兰竞技足球俱乐部》雜誌(www.businesswebdr.com),未經本刊本網授權不得轉載、摘編、偽原創或利用其它方式使用。違者本刊本網將追究相關法律責任。
凡本刊本網發布的照片、視頻,屬本刊本網原創或已獲作者本人授權。未經授權,擅自使用者,本刊本網及相關權益人將追究其相關法律責任。
關於我們 | 期刊導讀 | 顧問專家 | 法律聲明 | 廣告業務

Copyright(C) 米兰体育官方 版權所有 
地址:北京市海澱區學院路35號世寧大廈一層108室(100191)
高教郵箱:cn11_4994@263.net
基教郵箱:cn11_4994@163.com
電話:010-82098610

    

米兰竞技足球俱乐部微信公眾號二維碼