作者：千芯科技 陳巍
在WWDC 2023 開發(fā)者大會上，蘋果宣布了其操作系統(tǒng)和產(chǎn)品的一系列升級。但最大亮點是Apple Vision Pro，蘋果的首款混合現(xiàn)實（Mixed Reality，MR，即VR+AR）設(shè)備，一經(jīng)發(fā)布就成為世界熱議的焦點。
“今天標志著計算技術(shù)新時代的開端�！碧O果CEO庫克說，“如同 Mac將我們帶入個人計算時代，iPhone將我們帶入移動計算時代，Apple Vision Pro將帶我們進入空間計算時代。
1. 空間計算
空間計算是麻省理工學院Simon Greenwold 在其2003 年的論文中引入的一個術(shù)語�？臻g計算的實用化建立在人工智能 (AI) 、計算機視覺、芯片與傳感器的技術(shù)進步之上。典型的空間計算包括自動化倉儲、自動駕駛、工業(yè)制造、教育培訓、游戲娛樂等應(yīng)用場景。
例如在自動駕駛領(lǐng)域，通過多傳感器融合和多模態(tài)計算，來識別周邊環(huán)境、移動物體和人就是典型的空間計算。通過更強的算法和芯片，車輛就可以挑戰(zhàn)更復(fù)雜的地形和駕駛場景。
空間計算市場的年復(fù)合增長率為18.3%（來源：http://market.us）
空間計算可以用人工智能、物聯(lián)網(wǎng)、增強現(xiàn)實等技術(shù)取代舊場景的計算。據(jù)國外市場研究機構(gòu)評估，新技術(shù)進步的引入、智慧城市項目的發(fā)展以及物聯(lián)網(wǎng)/車聯(lián)網(wǎng)滲透率的不斷提高，空間計算解決方案的需求會產(chǎn)生18.3%的年復(fù)合增長率。
3自由度與6自由度對比（來源：Qualcomm）
MR 感知和重建現(xiàn)實使用SLAM技術(shù)來完成，該技術(shù)經(jīng)常使用在自動駕駛和機器人領(lǐng)域�；赟LAM技術(shù)掃視周圍環(huán)境信息， 使用二維圖像構(gòu)建三維空間。
據(jù)稱Apple Vision Pro 具備6自由度（6 DoF- Degree of Freedom）級別，用戶視角在虛擬場景中不僅可以在俯仰、偏擺及翻滾三個維度旋轉(zhuǎn)，用戶的身體還可以在前后、上下、左右三個互相垂直的坐標軸上進行運動。
典型的3自由度與6自由度XR產(chǎn)品（來源：Raddit）
傳感器處理芯片R1
Apple Vision Pro的核心芯片包括傳感器處理芯片R1和計算芯片M2。除了這兩顆核心芯片外，Apple Vision Pro還具有17個傳感器、6個麥克風和兩塊4K級別的Micro LED作為顯示。
據(jù)蘋果稱，新的R1芯片可減少 VR 中的暈動癥，其多模態(tài)處理時間僅為 12 毫秒。R1芯片是首次在蘋果產(chǎn)品家族中正式亮相，目前披露的消息還很少。
R1與M2是Apple Vision Pro的核心處理器（來源：Apple）
在iOS 13 中的代碼，早就揭示了這一新的協(xié)處理器的存在。R是其研發(fā)代號“Rose”的簡寫，當然我們也可以猜測R也代表了Reality。Rose 協(xié)處理器的第一個迭代版本 R1 (t2006) 有點類似于 Apple 的 M 系列運動協(xié)處理器，可以計算設(shè)備在空間中的位置，其核心功能是從主系統(tǒng)處理器中卸載大量的傳感器數(shù)據(jù)處理工作。
R1架構(gòu)與周邊連接估計（作者團隊繪制，轉(zhuǎn)載請注明來源）
早先的Apple M系列運動協(xié)處理器可以在系統(tǒng)主芯片休眠時，持續(xù)收集、處理和存儲傳感器數(shù)據(jù)的功能，方便應(yīng)用程序在設(shè)備啟動時檢索數(shù)據(jù)。這減少了設(shè)備的功耗并延長了電池壽命。我們猜測R1處理器也有類似的功能。
R1 的特別之處在于比之前的運動協(xié)處理器接入了更多的傳感器，具備更強的處理能力，以生成更準確的設(shè)備位置圖。R1處理器目前可集中處理來自陀螺儀、加速度計、氣壓計和麥克風的多模態(tài)數(shù)據(jù)，并增加了慣性測量單元 (IMU)、藍牙 5.1、超寬帶 (UWB) 和攝像頭（包括運動捕捉和光學跟蹤）傳感器數(shù)據(jù)的多模態(tài)計算支持。其中藍牙 5.1 的到達角 (AoA) 和出發(fā)角 (AoD) 功能可實現(xiàn)藍牙測向。
考慮到R1芯片對接的傳感器需要實時計算，可以預(yù)估R1是一顆低功耗低延遲的多模態(tài)傳感器融合計算芯片，其上定制了傳感器常用的算子電路，并且具備NPU來支持基于AI的傳感器算法。
M2主要指標（來源：http://notebookcheck.net）
應(yīng)用處理器M2芯片
Apple M2 是 Apple 的片上系統(tǒng) (SoC)，之前已經(jīng)用于MacBook Air 和 MacBook Pro 13。
M2架構(gòu)（來源：蘋果）
M2具有8 個CPU內(nèi)核，分為4個性能內(nèi)核和4個能效內(nèi)核。性能內(nèi)核提供 192 KB 指令緩存、128 KB 數(shù)據(jù)緩存和 16 MB 共享二級緩存。效率內(nèi)核要小一些，僅提供 128 KB 指令緩存、64 KB 數(shù)據(jù)緩存和 4 MB 共享緩存。效率內(nèi)核時鐘頻率為2.4 GHz，性能內(nèi)核的時鐘頻率則到達 3.5 GHz。另外M2 中的集成顯卡提供8-10 個內(nèi)核以及 3.6 TFLOPs 的峰值算力。此外，SoC 集成了一個具有 16 TOPS 峰值性能的高速16 核神經(jīng)網(wǎng)絡(luò)加速器（屬于DSA，用于 AI 計算加速）。
M2算是Vision Pro里的電老虎了，占據(jù)了主要的功耗。
M2與M1對比（來源：http://anandtech.com）
M2特色是其采用統(tǒng)一的 CPU 和 GPU 內(nèi)核內(nèi)存架構(gòu)，支持高達 24 GB LPDDR5-6400，帶寬高達 100GB/s。內(nèi)置于 M2 芯片中的統(tǒng)一內(nèi)存架構(gòu)意味著 CPU、GPU 和其他處理器組件無需在彼此之間重復(fù)復(fù)制數(shù)據(jù)，并且能夠訪問統(tǒng)一的數(shù)據(jù)池。
(Blue=GPU, Yellow=P-CPU, Green=E-CPU, Red=Neural Engine, Pink=System Level Cache , Orange=De-/Encode。來源：High Yield)
ICVIEWS智庫專家
陳巍博士
千芯科技董事長，存算一體/GPU架構(gòu)和AI專家，高級職稱。中關(guān)村云計算產(chǎn)業(yè)聯(lián)盟、中國光學工程學會專家。曾任AI企業(yè)首席科學家、存儲芯片大廠3D NAND設(shè)計負責人，領(lǐng)軍大陸首個3D NAND閃存設(shè)計團隊、eFlash IP核編譯器、RISC-V/x86/arm兼容AI加速編譯器，相關(guān)工作對標三星、臺積電、SST。畢業(yè)于清華大學，中美發(fā)明專利與軟著70+。 |
