The post 研華PCIe Gen5 x4 SSD EDSFF數(shù)據(jù)中心解決方案,為邊緣服務(wù)器應(yīng)用加速! appeared first on 研創(chuàng)科技.
]]>EDSFF SQFlash EU-2 U.2 & E3.S SSD是新一代高性能存儲(chǔ)解決方案,旨在滿(mǎn)足超大規(guī)模、企業(yè)和數(shù)據(jù)密集型應(yīng)用的需求。
E1.S 外形規(guī)格比傳統(tǒng) M.2 SSD更具靈活性,功耗預(yù)算更高。M.2 SSD通常支持高達(dá) 12W,而 E1.S 支持高達(dá) 20W,能夠充分利用 PCIe 4.0(16 GT/s x4)、PCIe 5.0(32 GT/s x4)甚至 PCIe 6.0(64 GT/s x4)帶寬,具體取決于驅(qū)動(dòng)器容量。這種增強(qiáng)的功耗能力和性能使 E1.S 成為需要強(qiáng)大可擴(kuò)展性和高性能的超大規(guī)模和企業(yè)環(huán)境的理想選擇。
SQFlash EU-2 U.2 和 E3.S SSD利用 PCIe Gen5 x4 接口,提供出色性能,順序讀取速度高達(dá) 14,000 MB/s,寫(xiě)入速度高達(dá) 8,500 MB/s,是 Gen4 SSD速度的兩倍。
基于最新的 NVMe 2.0 協(xié)議,這些SSD充分優(yōu)化了 PCIe Gen5 帶寬,確保與主機(jī)系統(tǒng)的高效高速通信。這減少了延遲,加快了數(shù)據(jù)傳輸速度,提高了系統(tǒng)的整體響應(yīng)能力。
這些先進(jìn)的存儲(chǔ)解決方案為速度、可擴(kuò)展性和功耗效率設(shè)定了新的基準(zhǔn),滿(mǎn)足現(xiàn)代計(jì)算環(huán)境的嚴(yán)格需求。
與傳統(tǒng)的 M.2 SSD不同,后者需要關(guān)閉整個(gè)服務(wù)器并從機(jī)架中取出才能更換,EDSFF(E1.S & E3.S)SSD支持從服務(wù)器正面直接熱插拔,無(wú)需完全關(guān)機(jī)。這一特性顯著增強(qiáng)了可維護(hù)性,并在維護(hù)期間節(jié)省了寶貴的時(shí)間。
SQFlash EU-2 SSD EDSFF 外形規(guī)格展示了存儲(chǔ)設(shè)計(jì)的進(jìn)步,提供了高效能的高容量,以滿(mǎn)足現(xiàn)代數(shù)據(jù)中心和企業(yè)應(yīng)用的需求。
E1.S 外形規(guī)格旨在最大化閃存內(nèi)存的空間利用率,從而實(shí)現(xiàn)更高容量的SSD。其尺寸為寬 33.75 mm x長(zhǎng) 118.75 mm,比標(biāo)準(zhǔn) M.2 SSD(寬 22 mm,x長(zhǎng) 110 mm)更大。這種增加的尺寸使 E1.S 能夠容納更多的閃存芯片,這些芯片可以垂直排列在 1U 機(jī)箱內(nèi),提供更高的存儲(chǔ)密度和可擴(kuò)展性。
SQFlash EU-2 SSD專(zhuān)為高效能而設(shè)計(jì),在空閑模式下功耗不到 9W,同時(shí)保持高性能。它具有先進(jìn)的電源管理功能,包括低功耗狀態(tài)和動(dòng)態(tài)功耗調(diào)節(jié),這些功能會(huì)根據(jù)工作負(fù)載需求調(diào)整能源使用。這種高效能使得 SQFlash EU-2 成為大規(guī)模數(shù)據(jù)中心和其他減少功耗至關(guān)重要的環(huán)境的理想解決方案。
這些進(jìn)步在性能、容量和高效能之間取得了平衡,為高需求應(yīng)用設(shè)定了存儲(chǔ)解決方案的新基準(zhǔn)。
該系統(tǒng)支持 NVMe 2.0 單端口操作,提供高兼容性和易于與現(xiàn)有系統(tǒng)集成。企業(yè)功能如命名空間和保留增強(qiáng)了數(shù)據(jù)管理和安全性,使多個(gè)用戶(hù)能夠安全高效地訪問(wèn)和管理數(shù)據(jù)。元數(shù)據(jù)保護(hù)確保了數(shù)據(jù)完整性和安全性,這對(duì)于處理敏感信息的企業(yè)應(yīng)用至關(guān)重要。
SQFlash EU-2 系列(U.2、E3.S & E1.S)中的每個(gè)產(chǎn)品都支持熱插拔機(jī)制,有效降低了系統(tǒng)停機(jī)成本。
數(shù)據(jù)分析:提供實(shí)時(shí)數(shù)據(jù)處理和分析所需的速度和容量,支持高級(jí)分析和機(jī)器學(xué)習(xí)應(yīng)用。
企業(yè)存儲(chǔ):為企業(yè)級(jí)應(yīng)用提供強(qiáng)大可靠的存儲(chǔ)解決方案,確保關(guān)鍵任務(wù)操作的高可用性和數(shù)據(jù)完整性。
研華930L Gen4 x4 E1.S 和 EU-2 Gen5 x4 U.2、E1.S、E3.S 解決方案將從 2025 年 1 月開(kāi)始上市。
The post 研華PCIe Gen5 x4 SSD EDSFF數(shù)據(jù)中心解決方案,為邊緣服務(wù)器應(yīng)用加速! appeared first on 研創(chuàng)科技.
]]>The post 研華AIR-120邊緣AI推理系統(tǒng)助力智慧安檢 appeared first on 研創(chuàng)科技.
]]>項(xiàng)目挑戰(zhàn)
市場(chǎng)背景
案例中客戶(hù)使用了研華的AIR-120邊緣AI推理系統(tǒng),與 Hailo-8 驅(qū)動(dòng)的 M.2 AI 加速模塊 EAI-1200 配對(duì),以實(shí)現(xiàn)實(shí)時(shí)安檢。EAI-1200 提供 26 TOPS 的 AI 處理能力和低功耗,專(zhuān)為實(shí)時(shí)邊緣推理任務(wù)而設(shè)計(jì)。該解決方案允許快速檢測(cè)違禁物品,例如彈藥、危險(xiǎn)物質(zhì)、尖銳物體和武器。
AIR-120邊緣AI推理系統(tǒng)是一款基于 Intel Atom 的無(wú)風(fēng)扇盒式 PC,具有用于兩個(gè)攝像頭連接的 LAN 端口、用于 EAI-1200 AI 加速模塊集成的 M.2 擴(kuò)展以及用于數(shù)據(jù)收集的數(shù)字 I/O。研華通過(guò)其 Edge AI SDK 進(jìn)一步增強(qiáng)了該系統(tǒng),提供推理基準(zhǔn)測(cè)試工具、運(yùn)行時(shí) SDK 集成以及遠(yuǎn)程監(jiān)控和管理功能。此外,Hailo 的 Model Zoo 提供預(yù)訓(xùn)練模型,Dataflow 編譯器支持模型轉(zhuǎn)換,TAPPAS 提供預(yù)訓(xùn)練示例,確保安檢應(yīng)用程序的無(wú)縫部署和優(yōu)化。
項(xiàng)目成果
The post 研華AIR-120邊緣AI推理系統(tǒng)助力智慧安檢 appeared first on 研創(chuàng)科技.
]]>The post 研華邊緣AI平臺(tái)測(cè)試DeepSeek蒸餾版模型數(shù)據(jù)大公開(kāi)! appeared first on 研創(chuàng)科技.
]]>研華選擇了多款基于英偉達(dá)技術(shù)的邊緣AI產(chǎn)品,針對(duì)目前DeepSeek-R1 系列的不同蒸餾模型進(jìn)行測(cè)試,下面讓我們來(lái)看下最新測(cè)試數(shù)據(jù)!
微型邊緣端推理應(yīng)用
算力100 TOPS
推薦型號(hào):
基于ARM平臺(tái)AI Box:ICAM-540 /MIC-711 / MIC-713
支持DeepSeek-R1蒸餾模型版本:
DeepSeek-R1-Distill-Qwen-1.5B
?DeepSeek-R1-Distill-Qwen-7B
?DeepSeek-R1-Distill-Llama-8B
測(cè)試型號(hào):MIC-711
*同時(shí)在MIC-711-OX4A 開(kāi)啟了Super Mode來(lái)跑同樣的模型, 在整體效能上有提升了將近25%, 這也表示了 Jetson super mode在AI應(yīng)用上有明顯的效能增強(qiáng)。
邊緣端推理應(yīng)用
算力100-500 TOPS
推薦型號(hào):
基于ARM平臺(tái)Edge AI Box:MIC-732/MIC-733/736
基于X86平臺(tái) Edge AI Box:MIC-770V3
Edge AI 服務(wù)器 :HPC-6240/HPC-7420/SKY-602E3 (支持1-4張GPU卡)
支持DeepSeek-R1蒸餾模型版本:
?DeepSeek-R1-Distill-Qwen-1.5B
?DeepSeek-R1-Distill-Qwen-7B
?DeepSeek-R1-Distill-Qwen-14B
?DeepSeek-R1-Distill-Llama-8B
測(cè)試型號(hào):MIC-770V3
*DeepSeek-R1:32b于此系統(tǒng)配置下使用約18GB VRAM,可正常運(yùn)行,但相同LLM model放在較高階顯卡上測(cè)試時(shí)VRAM使用達(dá)到21GB 故猜測(cè)模型會(huì)自動(dòng)調(diào)整參數(shù)降低VRAM使用量,但在效能會(huì)有其影響。
高性能邊緣AI服務(wù)器
算力500-1000+ TOPS
推薦型號(hào):
Edge AI 服務(wù)器 :HPC-6240 /HPC-7420/SKY-602E3 ?(支持1-4張GPU卡)
支持DeepSeek-R1蒸餾模型版本:
?DeepSeek-R1-Distill-Qwen-14B
?DeepSeek-R1-Distill-Qwen-32B
?DeepSeek-R1-Distill-Llama-70B
測(cè)試型號(hào):SKY-602E3
The post 研華邊緣AI平臺(tái)測(cè)試DeepSeek蒸餾版模型數(shù)據(jù)大公開(kāi)! appeared first on 研創(chuàng)科技.
]]>The post AIR-520 LLM服務(wù)器:Nvidia四卡加持,助力DeepSeek私有化部署! appeared first on 研創(chuàng)科技.
]]>研華AIR-520 是一款支持4卡單槽GPU或2卡雙槽GPU的桌面級(jí)LLM服務(wù)器,主要用于推理和微調(diào)兩個(gè)方向。我們已經(jīng)打包好3個(gè)推薦配置,便于大家直接選型。推薦配置如和您的應(yīng)用有差距,也可靈活調(diào)配。
近半年來(lái)隨著AI Agent的廣泛使用,大家對(duì)LLM服務(wù)器的推理能力比較看重,在DeepSeek發(fā)布后,我們也使用AIR-520-L70A1 RTX 4000 ADA 4卡版主機(jī),對(duì)工業(yè)客戶(hù)最常用的DeepSeek-R1 32B、70B兩個(gè)模型進(jìn)行了測(cè)試。
系統(tǒng)配置:
DeepSeek-R1 32B 測(cè)試:
DeepSeek-R1 70B測(cè)試:
通過(guò)測(cè)試,我們可以看到AIR-520的優(yōu)異表現(xiàn)。若客戶(hù)對(duì)性能還有更高的要求,AIR-520還有高配機(jī)型選擇。
工業(yè)客戶(hù)在使用大模型應(yīng)用的時(shí)候,除了算力的要求,客戶(hù)會(huì)更看重,解決方案的安全、合規(guī)、穩(wěn)定的特性。AIR-520整機(jī)通過(guò)了NVIDIA官方產(chǎn)品認(rèn)證,是工業(yè)企業(yè)客戶(hù)很好的選擇。
The post AIR-520 LLM服務(wù)器:Nvidia四卡加持,助力DeepSeek私有化部署! appeared first on 研創(chuàng)科技.
]]>The post 研華發(fā)布全系列車(chē)載AI工控機(jī),算力全開(kāi),智馭未來(lái)! appeared first on 研創(chuàng)科技.
]]>值得一提的是,研華還在持續(xù)投入研發(fā),進(jìn)一步豐富AI計(jì)算系統(tǒng),為客戶(hù)提供更多樣化的選擇。這些新產(chǎn)品將繼續(xù)秉承研華一貫的高品質(zhì)和創(chuàng)新精神,為軌道交通行業(yè)的智能化發(fā)展貢獻(xiàn)力量。
The post 研華發(fā)布全系列車(chē)載AI工控機(jī),算力全開(kāi),智馭未來(lái)! appeared first on 研創(chuàng)科技.
]]>The post 研華AIR-520:用新技術(shù)解鎖企業(yè)知識(shí)管理,探索LLM生成式AI的力量 appeared first on 研創(chuàng)科技.
]]>研華本地大型語(yǔ)言模型邊緣AI服務(wù)器AIR-520專(zhuān)為企業(yè)和獨(dú)立軟件開(kāi)發(fā)商設(shè)計(jì),實(shí)施和微調(diào)內(nèi)部部署的大語(yǔ)言模型,預(yù)先保護(hù)敏感數(shù)據(jù)安全,同時(shí)對(duì)于獨(dú)立軟件供應(yīng)商來(lái)說(shuō),可以節(jié)省云計(jì)算成本提供更多的解決方案和服務(wù)。
在滿(mǎn)足以上優(yōu)勢(shì)的同時(shí),以傳統(tǒng)LLM訓(xùn)練服務(wù)器的1/10的投入,即可獲取同等收益。
The post 研華AIR-520:用新技術(shù)解鎖企業(yè)知識(shí)管理,探索LLM生成式AI的力量 appeared first on 研創(chuàng)科技.
]]>The post NMC-6004FBD研華網(wǎng)卡增效網(wǎng)絡(luò)安全性能,增強(qiáng)云&AI應(yīng)用場(chǎng)景 appeared first on 研創(chuàng)科技.
]]>??高流量處理:高帶寬,容納大量數(shù)據(jù)流量,確保平穩(wěn)、高效的操作和連續(xù)的數(shù)據(jù)交換,而不會(huì)出現(xiàn)擁堵。
??低延遲通信:降低延遲,實(shí)現(xiàn)更快的響應(yīng)時(shí)間、無(wú)縫的用戶(hù)體驗(yàn),以達(dá)到整體性能提升。
??可擴(kuò)展性:高帶寬和高速數(shù)據(jù)傳輸,滿(mǎn)足企業(yè)不斷增長(zhǎng)的數(shù)據(jù)量和越來(lái)越多的用戶(hù)和設(shè)備容量。
??高效的數(shù)據(jù)處理:快速處理、訓(xùn)練和分析大數(shù)據(jù),確保高穩(wěn)定性、高可靠性和企業(yè)部署服務(wù)等。
?? 設(shè)計(jì):安全和先進(jìn)的光纖旁路功能
?? 模式:支持正常和旁路模式
???連接性:提供100GbE以太網(wǎng)雙端口
???接口:PCIe x16,Gen4
???疊加網(wǎng)絡(luò)加速:支持VXLAN、GENEVE、NVGRE
?? 加密和解密:內(nèi)聯(lián)硬件IPsec、TLS和AES-XTS
The post NMC-6004FBD研華網(wǎng)卡增效網(wǎng)絡(luò)安全性能,增強(qiáng)云&AI應(yīng)用場(chǎng)景 appeared first on 研創(chuàng)科技.
]]>The post 邊緣AI計(jì)算平臺(tái)UNO-148 V2研華工控機(jī),推動(dòng)工業(yè)應(yīng)用革新 appeared first on 研創(chuàng)科技.
]]>該設(shè)備的設(shè)計(jì)核心在于其卓越的靈活性,提供全面的 I/O 支持,包括 3 x以太網(wǎng)口、3 x USB 3.2、1 x USB 2.0、4 x COM和雙 DisplayPort 輸出。此外,UNO-148 V2 還支持 1 x全尺寸 mini PCIe、2 x M.2 M Key、1 x M.2 E Key和 1 x nano SIM ,滿(mǎn)足多樣化的擴(kuò)展需求。
此外,UNO-MXM-CB01 提供四個(gè)獨(dú)立顯示輸出,用于實(shí)時(shí)數(shù)據(jù)處理和圖像分析。它配備獨(dú)立散熱器和風(fēng)扇,確保系統(tǒng)穩(wěn)定性并優(yōu)化散熱管理。
2、精準(zhǔn)預(yù)測(cè)維護(hù):預(yù)測(cè)性分析,減少停機(jī)時(shí)間
3、圖像收集和分析:優(yōu)化生產(chǎn)流程和質(zhì)量控制
4、優(yōu)化資源分配:智能調(diào)度和資源管理,降低運(yùn)營(yíng)成本
5、增強(qiáng)安全性:實(shí)時(shí)監(jiān)控和異常檢測(cè),保障生產(chǎn)安全
The post 邊緣AI計(jì)算平臺(tái)UNO-148 V2研華工控機(jī),推動(dòng)工業(yè)應(yīng)用革新 appeared first on 研創(chuàng)科技.
]]>The post 智能物流自動(dòng)化:研華工控機(jī)解鎖 AGV能力提升 appeared first on 研創(chuàng)科技.
]]>其中,UNO-238 V2研華工控機(jī)尤為引人注目,它搭載性能強(qiáng)大的CPU,支持無(wú)縫無(wú)線通信和 CAN Bus 2.0。其應(yīng)用的 CAN Bus 技術(shù)簡(jiǎn)化通信,無(wú)需主機(jī)協(xié)助即可相互通信與協(xié)作,實(shí)現(xiàn)車(chē)載信息的傳遞與解讀。這一創(chuàng)新性解決方案不僅削減了成本,還提升了自動(dòng)引導(dǎo)叉車(chē)的產(chǎn)品質(zhì)量和整體性能效率。
UNO-238?V2研華工控機(jī) 配備了 EKI-1361 系列快速漫游無(wú)線客戶(hù)端,以實(shí)現(xiàn) AGV 與中央控制系統(tǒng)無(wú)線通信。通過(guò) EKI-6333AC,可遠(yuǎn)程連接地面控制系統(tǒng),確保信息流穩(wěn)定。Wi – Fi 客戶(hù)端促進(jìn)雙向通信,使 AGV 能夠接收命令并傳輸操作數(shù)據(jù),而 Wi – Fi AP 則充當(dāng)中介,管理系統(tǒng)內(nèi) AGV 車(chē)隊(duì)的網(wǎng)絡(luò)連接。這一通信回路確保 AGV實(shí)時(shí)接收和傳輸信息,系統(tǒng)連接形成網(wǎng)絡(luò),可高效協(xié)調(diào)控制 AGV。
2、雙通道DDR5-4800高達(dá)64GB
3、M.2 E-Key、B-Key、M-Key(支持NVMe)
4、配備CANBus,實(shí)現(xiàn)可靠通信
5、直流輸入接線端子,接線靈活
The post 智能物流自動(dòng)化:研華工控機(jī)解鎖 AGV能力提升 appeared first on 研創(chuàng)科技.
]]>The post 研華推出AIR-500系列NVIDIA認(rèn)證邊緣AI服務(wù)器 appeared first on 研創(chuàng)科技.
]]>該系列包括AIR-510,AIR-520以及AIR-530。各款產(chǎn)品都具有桌面或服務(wù)器級(jí)CPU和可定義的GPU配置,以適應(yīng)不同的AI應(yīng)用要求。研華AIR-510和AIR-520已順利通過(guò)NVIDIA認(rèn)證系統(tǒng)測(cè)試,兩款產(chǎn)品分別對(duì)應(yīng)NVIDIA RTX A5000和RTX 6000 Ada Generation顯卡。AIR-520和AIR-510還集成了群聯(lián)aiDAPTIV+解決方案,面向LLM現(xiàn)場(chǎng)微調(diào)訓(xùn)練,大大降低了將生成式AI應(yīng)用于企業(yè)環(huán)境的門(mén)檻,并確保了企業(yè)敏感數(shù)據(jù)的安全性。
同時(shí),研華作為采用NVIDIA AI Enterprise的工業(yè)PC供應(yīng)商,通過(guò)AIR-500系列AI服務(wù)器為客戶(hù)帶來(lái)了顯著的優(yōu)勢(shì)。NVIDIA AI Enterprise是一個(gè)云原生軟件平臺(tái),可簡(jiǎn)化生產(chǎn)級(jí)自動(dòng)駕駛和其他生成式AI應(yīng)用的開(kāi)發(fā)和部署。借助研華和 NVIDIA的專(zhuān)家支持服務(wù)(包括NVIDIA AI Enterprise)加速AI解決方案的開(kāi)發(fā),以確保高效部署應(yīng)用。此外,AIR-500系列符合IEC-62368安全標(biāo)準(zhǔn),提供長(zhǎng)生命周期支持。
AIR-510搭載第14代Intel處理器、并通過(guò)了NVIDIA RTX 6000 Ada Generation顯卡認(rèn)證,確保了一流的AI圖形處理性能。它還提供兩個(gè)額外的PCIe x 4插槽和12個(gè)USB端口,為各種外設(shè)提供了廣泛的連接選擇,增強(qiáng)了其多功能屬性和實(shí)用性。
AIR-520性能強(qiáng)悍,搭載AMD EPYC 7003系列服務(wù)器處理器。它具有4個(gè)PCIe x16插槽,可容納四個(gè)單插槽或兩個(gè)雙插槽顯卡。它還搭載兩塊NVIDIA RTX A5000顯卡,由NVIDIA NVLink實(shí)現(xiàn)連接。有了這些強(qiáng)大的計(jì)算能力,該產(chǎn)品必將爆發(fā)先進(jìn)的邊緣AI訓(xùn)練性能。
AIR-530由NVIDIAIGX Orin平臺(tái)提供支持,并集成了兩個(gè)100GbE以太網(wǎng)QSFP28端口,用于高速連接場(chǎng)景。憑借其在企業(yè)OS和AI堆棧領(lǐng)域長(zhǎng)達(dá)10年的穩(wěn)定運(yùn)營(yíng),AIR-530實(shí)為企業(yè)尋求AI長(zhǎng)期解決方案的可靠選擇。
The post 研華推出AIR-500系列NVIDIA認(rèn)證邊緣AI服務(wù)器 appeared first on 研創(chuàng)科技.
]]>