據(jù)外媒報(bào)道，DSP芯片和高性能硅知識(shí)產(chǎn)權(quán)（IP）解決方案供應(yīng)商VSORA宣布推出其用于生成AI推理的處理器平臺(tái)Jotunn。

Jotunn預(yù)計(jì)將于2024年推出，旨在克服“內(nèi)存墻（memory wall）”，其中內(nèi)存墻使當(dāng)前處理器在生成AI軟件中等待數(shù)據(jù)時(shí)大部分時(shí)間處于空閑狀態(tài)。

圖片來(lái)源：VSORA

據(jù)報(bào)道，近日推出的生成式AI GPT-3.5需要1750億個(gè)參數(shù)，而GPT-4需要近2萬(wàn)億個(gè)參數(shù)。使用傳統(tǒng)的分層內(nèi)存模型延遲會(huì)增加。VSORA聲稱，運(yùn)行GPT-4的效率下降至3%左右，因此數(shù)千個(gè)處理器在97%的時(shí)間內(nèi)都處于閑置狀態(tài)。

Jotunn是一種可擴(kuò)展芯片架構(gòu)，配有主機(jī)處理器和高帶寬內(nèi)存（HBM）接口。Jotunn-4實(shí)施方案具有四個(gè)處理器內(nèi)核，將提供192GB片上內(nèi)存，并能夠根據(jù)數(shù)據(jù)類型提供12至3,200 TFLOPS的性能。此外，該架構(gòu)采用45mm x 45mm封裝時(shí)，額定功耗為100W峰值。

ChatGPT基于GPT-3.5，可以由Jotunn4完全在片上處理，與競(jìng)品相比，功耗降低了一個(gè)數(shù)量級(jí)以上。Jotunn4使GPT-3.5和GPT-4的效率提高了50%以上。

Jotunn最初旨在降低L3至L5自動(dòng)駕駛車輛的功耗和成本，并搭載高性能芯片架構(gòu)（參見(jiàn)VSORA推出用于自動(dòng)駕駛的Tyr芯片）。VSORA擴(kuò)展了該架構(gòu)以加速GenAI應(yīng)用。

利用VSORA高級(jí)語(yǔ)言和圖形編譯器開(kāi)發(fā)流程，算法應(yīng)用可更加快速和簡(jiǎn)單。面向未來(lái)的VSORA架構(gòu)不受算法限制，允許現(xiàn)有算法和新算法在各種VSORA芯片上運(yùn)行。VSORA創(chuàng)始人兼首席執(zhí)行官Khaled Maalej表示：“生成式人工智能需要專門(mén)設(shè)計(jì)的硬件來(lái)支持。”

VSORA成立于2015年，在法國(guó)默東拉福雷（Meudon-La-Forêt）、美國(guó)加利福尼亞州圣地亞哥（San Diego）和中國(guó)臺(tái)灣均設(shè)有辦事處。