? ? ? ? Neousys宸曜科技強(qiáng)固型邊緣計(jì)算人工智能推理平臺(tái)現(xiàn)已支持NVIDIA L4 Tensor Core GPU和NVIDIA RTX 4000 SFF Ada Generation。
支持RTX 4000 SFF Ada 的計(jì)算平臺(tái)
? ? ? ? 支持NVIDIA RTX 4000 SFF Ada Generation圖形卡的機(jī)型包括:緊湊的強(qiáng)固型邊緣計(jì)算人工智能推理平臺(tái)Nuvo-9160GC、Nuvo-7168GC、Nuvo-7160G,緊湊的強(qiáng)固型無(wú)風(fēng)扇嵌入式計(jì)算平臺(tái)Nuvo-8003,及工業(yè)級(jí)GPU嵌入式邊緣計(jì)算人工智能平臺(tái)Nuvo-10208GC、Nuvo-8208GC、Nuvo-8108GC(全系列)等。
??為什么選擇RTX 4000 SFF Ada Generation
? ? ? NVIDIA RTX? 4000 SFF Ada Generation兼具緊湊小巧的外型和出色的性能和功能。
基于NVIDIA?Ada Lovelace架構(gòu),RTX 4000 SFF結(jié)合使用了48個(gè)第三代RT Core、192個(gè)第四代Tensor Core(張量核心)和6144個(gè)CUDA核心,及20GB ECC圖形內(nèi)存,而其功耗僅有70W,且不需要外接供電。[1]
? ? ? ?NVIDIA RTX? 4000 SFF Ada Generation在渲染、AI、圖形處理和計(jì)算性能方面提供出色的表現(xiàn),將小型工作站的性能和效率提升到了新的水平,開發(fā)專業(yè)解決方案(例如醫(yī)療、大型顯示器等領(lǐng)域)的系統(tǒng)集成商可以受益于該顯卡的性能與小型化。[2]
數(shù)據(jù)來(lái)自NVIDIA官網(wǎng)RTX 4000 SFF Ada Generation Datasheet
? ? ? Neousys宸曜科技的強(qiáng)固型邊緣計(jì)算人工智能推理平臺(tái)提供更好的機(jī)構(gòu)和散熱設(shè)計(jì),以達(dá)到更大的性能優(yōu)化,防止CPU/ GPU產(chǎn)生熱節(jié)流,適用于各種嚴(yán)苛環(huán)境應(yīng)用。
? ? ?同時(shí),Neousys宸曜科技的Nuvo-9160GC、Nuvo-7168GC、Nuvo-7160GC和Nuvo-8003都兼?zhèn)?span style="font-size: 16px;">緊湊機(jī)構(gòu)設(shè)計(jì)和外型尺寸,可以在空間受限且環(huán)境惡劣的邊緣端穩(wěn)定運(yùn)行。
? ? ? 體積雖小,但是他們都具備豐富的I/O接口設(shè)計(jì),Nuvo-9160GC、Nuvo-7168GC和Nuvo-7160GC還擁有宸曜的MezIO擴(kuò)展模塊,提供多種I/O接口,以便用戶進(jìn)行功能擴(kuò)展。Nuvo-8003不僅可以提供滿足一般工業(yè)應(yīng)用需求的通用I/O接口,在其緊湊的尺寸中還可以額外提供一個(gè)PCIe擴(kuò)展插槽用于功能擴(kuò)展。
? ? ?不僅如此,Nuvo-9160GC和Nuvo-10208GC還支持英特爾?第13代酷睿?,高則可支持24核/ 32線程,與英特爾?第10代或第11代平臺(tái)相比,整個(gè)系統(tǒng)能夠?yàn)橛脩魩?lái)高達(dá)2倍的CPU性能提升。
?支持RTX 4000 SFF Ada 的計(jì)算平臺(tái)
支持L4 Tensor Core GPU的計(jì)算平臺(tái)
? ? ? 支持NVIDIA L4 Tensor Core GPU圖形卡的機(jī)型包括:強(qiáng)固型邊緣計(jì)算人工智能推理平臺(tái)Nuvo-9166GC、Nuvo-8240GC、Nuvo-7166GC和Nuvo-7164GC。
??為什么選擇NVIDIA L4 Tensor Core GPU
? ? ?NVIDIA L4 Tensor Core GPU 加速了視頻、AI和圖形工作負(fù)載。基于 NVIDIA Ada Lovelace 架構(gòu)構(gòu)建,采用低外形尺寸封裝的 L4 GPU 是一款經(jīng)濟(jì)高效的解決方案,可在從邊緣、數(shù)據(jù)中心到云端的每臺(tái)服務(wù)器中實(shí)現(xiàn)高吞吐量和低延遲。同時(shí),L4 針對(duì)主流部署進(jìn)行了優(yōu)化,提供了在?72W低功耗封裝中運(yùn)行的小尺寸外形,使其成為適用于 NVIDIA 合作伙伴生態(tài)系統(tǒng)中任何服務(wù)器或云實(shí)例的高效、經(jīng)濟(jì)的解決方案。[3]
高達(dá) 120 倍的 AI 視頻性能:L4 提供的 AI 視頻性能比基于 CPU 的解決方案高出 120 倍。
高達(dá) 2.5 倍的生成 AI 性能:L4 增強(qiáng)了計(jì)算密集型生成式 AI 推理,其性能比上一代 GPU 提高了 2.5 倍。
超過 4 倍的實(shí)時(shí)圖形和 3 倍的光線追蹤性能:采用第三代 RT 核心和 AI 驅(qū)動(dòng) NVIDIA 深度學(xué)習(xí)采樣 3 (DLSS 3),優(yōu)化圖形性能。
數(shù)據(jù)來(lái)自NVIDIA官網(wǎng)NVIDIA L4 Tensor Core GPU Datasheet
? ? ? Neousys宸曜科技的強(qiáng)固型邊緣計(jì)算人工智能推理平臺(tái)Nuvo-9166GC、Nuvo-7166GC和Nuvo-7164GC采用了宸曜的卡式擴(kuò)展盒和散熱設(shè)計(jì)。這一設(shè)計(jì)使得GPU能夠在55℃的高溫環(huán)境下穩(wěn)定運(yùn)行不會(huì)出現(xiàn)熱節(jié)流,也不會(huì)影響系統(tǒng)運(yùn)行,同時(shí)系統(tǒng)能夠在60℃的高溫環(huán)境下穩(wěn)定運(yùn)行而不會(huì)降低性能。
? ? ? 另外,Nuvo-8240GC可以支持兩片NVIDIA L4 Tensor Core GPU,能夠?qū)崿F(xiàn)混合精度訓(xùn)練。而其尺寸僅為170mm(寬)x 360mm(深)x 186mm(高),可以滿足在狹窄空間中對(duì)高性能和高算力的需求。
? ? ? 除了工業(yè)級(jí)寬溫和高效能散熱設(shè)計(jì),Nuvo-9166GC、Nuvo-7166GC、Nuvo-7164GC和Nuvo-8240GC都具備緊湊尺寸和強(qiáng)固的機(jī)構(gòu)設(shè)計(jì)、工業(yè)級(jí)電源設(shè)計(jì)及豐富的I/O接口和擴(kuò)展功能。
? ? ? 不僅如此,Nuvo-9166GC還支持英特爾?第13代酷睿?,高則可支持24核/ 32線程,與英特爾?第10代或第11代平臺(tái)相比,整個(gè)系統(tǒng)能夠?yàn)橛脩魩?lái)高達(dá)2倍的CPU性能提升。
?支持L4 Tensor?Core GPU的計(jì)算平臺(tái)
[1] 來(lái)源:https://www.nvidia.cn/content/dam/en-zz/Solutions/rtx-4000-sff/proviz-rtx-4000-sff-ada-datasheet-2616456-web.pdf;
[2] 來(lái)源:https://blogs.nvidia.cn/2023/03/21/nvidia-redefines-workstations-to-power-new-era-of-ai-design-industrial-metaverse/;
[3] 來(lái)源:https://www.nvidia.cn/data-center/l4/;?