大量模擬數(shù)百個人工智能加速器
深度評估網(wǎng)絡性能和可擴展性并加快上市時間,且成本低于現(xiàn)有的解決方案
準確還原人工智能和機器學習工作負載的真實網(wǎng)絡行為,具備高仿真度且可重復驗證
2024年2月29日,是德科技(Keysight Technologies,Inc.)宣布,針對人工智能(AI)和機器學習(ML)基礎設施生態(tài)系統(tǒng),推出了 AI數(shù)據(jù)中心測試平臺,旨在加速AI / ML網(wǎng)絡驗證和優(yōu)化的創(chuàng)新。該解決方案顯著提高了AI基礎設施的評估測試能力,并具有強大的擴展能力。
AI的部署和使用在各行各業(yè)迅速增長,快速高效地訓練和交付新的AI模型是各企業(yè)的首要任務。AI / ML工作負載需要處理海量數(shù)據(jù),這就要求高網(wǎng)絡帶寬和計算性能以減少訓練時間。然而,設計和驗證大規(guī)?!凹僭O”場景評估的成本,即使對于大型AI運營商來說也是難以承擔的。
為了克服這一挑戰(zhàn)并加速AI / ML基礎設施的設計和測試,是德科技 AI數(shù)據(jù)中心測試平臺提供了靈活可配置的AI工作負載仿真、預設的評估測試應用選件和數(shù)據(jù)集分析工具,幫助企業(yè)提高AI / ML集群網(wǎng)絡結構的性能。
為加速AI / ML網(wǎng)絡設計,是德科技的數(shù)據(jù)中心解決方案具有如下優(yōu)勢:
仿真還原超大規(guī)模的AI工作負載 - 提供對集合通信性能的深度評估
簡化評估測試流程 - 通過與大型的AI運營商和AI基礎設施供應商合作,推出預置的評估應用程序選件,驗證AI網(wǎng)絡結構
執(zhí)行定義的AI / ML行為模型 – 實現(xiàn)用戶和其客戶之間的共享以幫助重復驗證
提供測試引擎選擇 - 選擇使用Keysight硬件負載設備上進行AI工作負載仿真,并在真實的AI加速器的軟件端點上進行相同測試,從而對二者進行性能比較
是德科技平臺能夠以較低成本實現(xiàn)真實場景的大規(guī)模驗證和網(wǎng)絡結構設計實驗。該解決方案是對現(xiàn)有使用GPU來仿真AI / ML工作負載的有效補充,從而為AI運營商提供了一個更可擴展、穩(wěn)定和集成的AI測試平臺。
650 Group 的創(chuàng)始人和技術分析師Alan Weckel表示:“800GE對于AI / ML的增長至關重要,有望成為歷史上數(shù)據(jù)中心端口速度增長最快的技術。AI / ML帶寬,在未來10年內(nèi),將以每年超過100%的速度增長,800GE將在這種增長中發(fā)揮關鍵作用。是德科技的解決方案處于測試AI / ML基礎設施的前沿,這些基礎設施預計在未來18個月內(nèi)達到大規(guī)模量產(chǎn)?!?
Arista Networks 云和平臺副總裁Martin Hull表示:“已經(jīng)證明,高速以太網(wǎng)網(wǎng)絡在遵循公開標準的同時,可以提供兼顧成本和性能的解決方案,從而減少處理AI / ML工作負載的時間。是德科技的AI測試平臺是驗證Arista在AI網(wǎng)絡設計方面技術領先性的極有價值的工具?!?
是德科技網(wǎng)絡測試與安全解決方案副總裁兼總經(jīng)理Ram Periakaruppan表示:“作為測試超高速800G以太網(wǎng)網(wǎng)絡的領導者,是德科技在創(chuàng)新方面繼續(xù)引領潮流,通過與云計算運營商密切合作,共同設計了這款具有里程碑意義的與眾不同的新AI測試平臺,實現(xiàn)了對超大規(guī)模AI工作負載的真實評估和仿真。”
是德科技的AI數(shù)據(jù)中心測試平臺為網(wǎng)絡工程師提供了一個精確模擬AI負載的新選擇。通過比較使用是德科技硬件負載設備的測試結果和基于真實AI加速器的測試結果評估網(wǎng)絡性能。
是德科技的AI數(shù)據(jù)中心測試平臺加速AI網(wǎng)絡驗證和優(yōu)化的創(chuàng)新。該解決方案具有多個AI測試引擎,具備強大的擴展性和部署效率,能夠幫助提高新型AI基礎設施的性能。