邊緣計算在低延遲、高帶寬、隱私保護等方面展現(xiàn)出較強優(yōu)勢，使得大模型在邊緣端的推理逐漸成為可能，也進一步推動了AI推理向邊緣下沉的趨勢，以降低對云端計算的依賴、提高系統(tǒng)的響應速度。

車載大模型的定義尚無，傳統(tǒng)大模型即LLM的參數(shù)一般在70億至2000億之間，而早期的CNN模型參數(shù)通常不到1000萬，CNN模型目前大多做骨干網(wǎng)使用，參數(shù)飛速增加。特斯拉使用META的RegNet，參數(shù)為8400萬，消耗運算資源很少，得分82.9也算不低；小米UniOcc使用META的ConvNeXt-B，參數(shù)8900萬，消耗運算資源最少，得分83.8；華為RadOcc使用微軟的Swin-B，參數(shù)8800萬。相對于早期的CNN模型，這些都可以叫大模型，但要與真正意義上的ChatGPT之類的LLM大模型比，這些是小模型都稱不上，只能叫微模型。

近期，JEDEC（固態(tài)技術協(xié)會是微電子產(chǎn)業(yè)的領導標準機構）除了籌備制定新一代DDR6高性能內(nèi)存，還在積極準備新一代低功耗內(nèi)存LPDDR6，主要用于智能手機、輕薄筆記本等。

內(nèi)存，對于裝機愛好者來說已經(jīng)再熟悉不過了。它是計算機的重要部件，用于暫時存放CPU中的運算數(shù)據(jù)，以及與硬盤等外部存儲器交換的數(shù)據(jù)。簡單來說，內(nèi)存就是CPU的“草稿紙”，負責將CPU這個大腦暫時用不到的數(shù)據(jù)存放起來，以備隨時取用。這種將數(shù)據(jù)放在CPU外暫存的結(jié)構被稱為“馮·諾依曼結(jié)構”。即使將CPU升級為服務器級別，其數(shù)據(jù)交換方式仍舊是這樣。 不過，隨著AI時代來臨，服務器核心的算力越來越高，它與內(nèi)

作為業(yè)界領先的芯片和半導體IP供應商，致力于使數(shù)據(jù)傳輸更快更安全，Rambus Inc.（納斯達克股票代碼：RMBS）今日宣布推出新的里程碑式產(chǎn)品，提升GDDR6內(nèi)存接口性能。Rambus GDDR6 PHY提供市場領先的數(shù)據(jù)傳輸速率，最高可達24 Gb/s，能夠為每個GDDR6內(nèi)存設備帶來96 GB/s的帶寬。作為系統(tǒng)級解決方案的一部分，Rambus GDDR6能夠為人工智能/機器學習（AI/M