人工智能尤其是深度學(xué)習(xí)和大模型的發(fā)展，正在對(duì)算力提出新的要求，有研究機(jī)構(gòu)預(yù)測(cè)，未來(lái)算力需求將每4-6個(gè)月翻一倍，遠(yuǎn)快于摩爾定律的每18-24個(gè)月晶體管密度翻一倍。

與此同時(shí)，隨著芯片制程逼近物理極限（2nm工藝的晶體管僅幾十個(gè)原子寬），量子隧穿效應(yīng)和制造成本暴漲（3nm研發(fā)超200億美元）讓傳統(tǒng)微縮難以為繼，摩爾定律正在走向終結(jié)。

為了解決以上算力需求增長(zhǎng)與傳統(tǒng)芯片發(fā)展瓶頸間的矛盾，行業(yè)正積極探索多元路徑，為算力突破開辟新的方向。

其中，傳統(tǒng)的路線有兩大方向，一種是通過(guò)近存計(jì)算和存內(nèi)計(jì)算，也就是將存儲(chǔ)單元放在計(jì)算邏輯芯片上方或者與計(jì)算邏輯芯片放在同一顆芯片內(nèi)的方式，來(lái)解決存儲(chǔ)和計(jì)算之間帶寬和數(shù)據(jù)搬運(yùn)的問(wèn)題；另一種是通過(guò)架構(gòu)創(chuàng)新，也就是把芯片上的晶體管進(jìn)行重新排列，讓AI產(chǎn)品重新定制計(jì)算核的形式，比如美國(guó)Sambanova公司的流式計(jì)算架構(gòu)、谷歌TPU專用的ASIC架構(gòu)，來(lái)解決晶體管的使用率問(wèn)題。

然而，這并不能解決“絕對(duì)算力”問(wèn)題，人們依舊會(huì)面臨晶體管數(shù)量不足的困擾。

對(duì)此，曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士表示：“我們正在從光電混合計(jì)算的角度來(lái)進(jìn)一步解決晶體管或者代替晶體管解決單位面積的絕對(duì)算力問(wèn)題，這是一種更底層的技術(shù)突破?！?/p>

圖 | 曦智科技創(chuàng)始人兼首席執(zhí)行官沈亦晨博士；來(lái)源：與非網(wǎng)攝制

光電混合計(jì)算可將絕對(duì)算力提升3-5倍以上

為什么光電混合計(jì)算可以突破晶體管的限制？

對(duì)此，沈亦晨解釋道：“這是因?yàn)閷?duì)于光來(lái)講，不論以何種主頻，1GHz、10GHz還是100GHz，在光纖里面或者在芯片上的波導(dǎo)中傳播時(shí)，它都不會(huì)產(chǎn)生熱量?；诖耍覀兛梢酝ㄟ^(guò)提高它的主頻，或者提高波分復(fù)用的波長(zhǎng)數(shù)量，來(lái)進(jìn)一步增加單位面積的絕對(duì)算力。”

“此外，近存計(jì)算架構(gòu)或者流式架構(gòu)同樣可以在光電混合計(jì)算芯片上來(lái)實(shí)現(xiàn)，換言之，光電混合也可以做近存計(jì)算或AI流式計(jì)算?！?沈亦晨補(bǔ)充道。

提到光電混合計(jì)算，曦智科技作為該方向的提出者，當(dāng)前不管是從底層創(chuàng)新還是商業(yè)落地，在全球都是走的最快的。

但是曦智科技并沒(méi)有講“比電快1萬(wàn)倍、10萬(wàn)倍的故事”，而是 非常樸實(shí)地表示，當(dāng)前基于曦智科技的光電混合計(jì)算硬件，可以在特定場(chǎng)景下實(shí)現(xiàn)比電計(jì)算性能高3倍、5倍以上的提升。

圖 | 曦智科技提出了EOPP的概念；來(lái)源：與非網(wǎng)攝制

為了更好地理解當(dāng)前光電混合計(jì)算的算力情況，曦智科技聯(lián)合創(chuàng)始人、首席技術(shù)官孟懷宇博士還提出了EOPP（Effective Optical Processing Power）的概念，從而將光計(jì)算的峰值算力、計(jì)算精度、矩陣可編程能力以及刷新頻率等納入光電混合計(jì)算能力的綜合評(píng)價(jià)體系中去。

圖 | 曦智科技聯(lián)合創(chuàng)始人、首席技術(shù)官孟懷宇博士；來(lái)源：與非網(wǎng)攝制

曦智科技發(fā)布最新款光電混合計(jì)算卡產(chǎn)品——曦智天樞

2021年12月，曦智科技首次對(duì)外發(fā)布光電混合計(jì)算產(chǎn)品，成功驗(yàn)證了光電混合計(jì)算在特定算法下，相較于主流GPU數(shù)百倍的速度優(yōu)勢(shì)。

就在近日，曦智科技發(fā)布了全球首款實(shí)現(xiàn)商業(yè)化落地的可編程光電混合計(jì)算卡——曦智天樞，其核心突破在于采用3D先進(jìn)封裝技術(shù)（TSV+FlipChip）將128×128光學(xué)矩陣乘法器與電學(xué)專用集成電路異構(gòu)集成。光學(xué)處理單元（OPU）通過(guò)光的并行特性實(shí)現(xiàn)矩陣運(yùn)算，主頻1GHz下延遲僅200ps，而電芯片（ASIC）負(fù)責(zé)邏輯控制與精度校準(zhǔn)，兩者協(xié)同將輸出精度提升至8bit，滿足ResNet50等商用AI模型的推理需求。

圖 | 曦智科技光電混合計(jì)算卡“曦智天樞”；來(lái)源：曦智科技

相較上一代產(chǎn)品，曦智天樞的光子器件數(shù)量、芯片面積及矩陣規(guī)模均提升4倍，等效光算力（EOPP）達(dá)84，標(biāo)志著光計(jì)算從實(shí)驗(yàn)室走向產(chǎn)業(yè)化的關(guān)鍵一步。

在軟件方面，曦智天樞搭載了曦智光電混合計(jì)算軟件棧，其算子庫(kù)包含RVV（RiscV Vector）算子，電矩陣（dMAC）加速算子，光矩陣（oMAC）加速算子,?支持CV類和LLM類模型，以及non-AI算子，如Ising，LineSolver等。用戶借助曦智編譯器，可以靈活地運(yùn)用這些算子來(lái)構(gòu)建高效的應(yīng)用模型。此外，平臺(tái)還支持用戶自定義算子，通過(guò)OpenCL C/C++語(yǔ)言進(jìn)行編譯和優(yōu)化，進(jìn)一步擴(kuò)展了算法開發(fā)的靈活性。

曦智科技的軟件棧與主流框架如Pytorch和ONNX深度集成，客戶可以通過(guò)軟件棧直接使用曦智天樞的光矩陣和電矩陣加速單元對(duì)模型和算法進(jìn)行加速和驗(yàn)證，也可以將模型通過(guò)曦智編譯框架編譯部署在端側(cè)進(jìn)行推理。通過(guò)軟件棧，天樞成功運(yùn)行了深度卷積神經(jīng)網(wǎng)絡(luò)模型ResNet50及AI大語(yǔ)言模型LlaMA 2，首次實(shí)現(xiàn)了光電混合計(jì)算在商業(yè)化場(chǎng)景中的應(yīng)用。

在實(shí)際應(yīng)用中，根據(jù)北京大學(xué)常林教授團(tuán)隊(duì)的實(shí)測(cè)數(shù)據(jù)顯示，天樞在醫(yī)學(xué)圖像分割（512×512分辨率）任務(wù)中，光加速占比75%，準(zhǔn)確率媲美高端GPU；在毫米波雷達(dá)信號(hào)處理中，其納秒級(jí)延遲顯著提升實(shí)時(shí)性，驗(yàn)證了光電協(xié)同校正技術(shù)的有效性。

寫在最后：曦智天樞就像是"特斯拉Roadster"

關(guān)于光電混合計(jì)算的未來(lái)，曦智科技CEO沈亦晨指出，曦智天樞的發(fā)布類比"特斯拉Roadster"，標(biāo)志著光計(jì)算首次以商業(yè)化產(chǎn)品形態(tài)突破電算力邊界。

根據(jù)Yole預(yù)測(cè)，2030年光電混合計(jì)算市場(chǎng)規(guī)模將超百億美元，而曦智天樞的技術(shù)路徑——通過(guò)波分復(fù)用（當(dāng)前為單波長(zhǎng)，可做到8波長(zhǎng)/16波長(zhǎng)復(fù)用）和主頻提升（當(dāng)前1GHz vs. 光通信100GHz潛力）仍具3個(gè)數(shù)量級(jí)的算力擴(kuò)展空間。

當(dāng)然，曦智天樞的價(jià)值不僅在于性能參數(shù)，更在于其構(gòu)建了光電混合計(jì)算的技術(shù)范式：以光突破晶體管密度限制，以電彌補(bǔ)光計(jì)算通用性短板。

隨著下一代產(chǎn)品（256×256光子矩陣）的研發(fā)推進(jìn)，曦智科技正推動(dòng)算力產(chǎn)業(yè)從"硅基微縮"轉(zhuǎn)向"光-電協(xié)同"的新賽道，這一創(chuàng)新或?qū)⒅厮蹵I基礎(chǔ)設(shè)施的競(jìng)爭(zhēng)格局。