英特爾：為DeepSeek大模型提供優(yōu)化工具 降低部署門檻
來源：環(huán)球網
【環(huán)球網科技綜合報道】近日，DeepSeek推出了一款名為Janus Pro的先進AIGC（人工智能生成內容）模型，該模型以其卓越的性能和高精度引起了行業(yè)的廣泛關注。
2月2日，英特爾方面表示，英特爾? Gaudi 2D AI加速器針對Janus Pro進行了優(yōu)化，為AI開發(fā)者提供了以更低的成本和更高的效率部署復雜任務的可能性，滿足了行業(yè)對于推理計算能力的需求。
據了解，DeepSeek Janus Pro首次采用了統(tǒng)一的Transformer架構，打破了傳統(tǒng)AIGC模型依賴多路徑視覺編碼的限制，實現了理解與生成任務的一體化支持。通過優(yōu)化訓練策略和擴大模型規(guī)模，Janus Pro在文生圖等功能上展現了顯著的性能提升和穩(wěn)定性，并推出了10億參數和70億參數兩個版本，進一步鞏固了其在性能和精度方面的競爭力。
值得一提的是，Janus Pro在統(tǒng)一Transformer架構下，文生圖模型的吞吐量不再僅僅依賴于加速器的高算力，而是充分利用HBM內存的高帶寬和大容量。借助英特爾? Gaudi 2D提供的2.45TB/秒的高帶寬和96GB HBM大容量內存，Janus Pro在處理批處理任務時表現出了顯著的吞吐性能提升，能夠大幅縮短了任務處理時間。結合英特爾Optimum-Habana框架的優(yōu)化，僅需約10秒即可生成16張高質量圖片，極大提升了文生圖任務的效率。
此外，DeepSeek的蒸餾模型也得到了至強和Gaudi平臺的支持，有助于降低總體擁有成本（TCO），促進AI技術的普及。目前，英特爾的AI產品組合已針對超過500個開源AI模型提供支持，包括DeepSeek、Llama 3.1和通義千問等，同時致力于構建開放生態(tài)系統(tǒng)，為企業(yè)AI應用的實現提供堅實基礎。（勃潺）
相關文章
最新評論