AI資料中心的硬體設計正面臨運算效能、傳輸效率與能源使用之間的多重考驗。如何在不大幅增加系統複雜度與功耗的前提下，提升晶片間的資料交換能力，已成為半導體封裝與高速互連技術的重要發展方向。
光子技術憑藉高頻寬、低傳輸損耗及高密度整合等特性，正逐步從傳統光通訊延伸至晶片封裝與運算系統內部。Lightmatter以3D光子中介層、共封裝光學（CPO）及光學I/O為核心，布局從封裝內部連接到跨機櫃傳輸的解決方案，為大型運算系統提供新的互連選項。
從單機伺服器走向大型運算節點
Lightmatter認為，AI Rack（機櫃）正從傳統由多台獨立伺服器組成的架構，逐步朝向大型運算節點發展。在Scale-up（縱向擴展）互連架構中，多顆GPU能共享記憶體並以高頻寬交換資料，使整個運算域如同一台大型電腦般協同運作。
然而，目前互連技術仍以銅纜為主，在每通道200G的傳輸速率下，被動式銅纜的傳輸距離約為一公尺，限制了GPU互連的擴展範圍，使大型運算域通常侷限於單一機櫃。未來，隨著光學互連技術發展，運算節點有望突破單一機櫃的限制，進一步擴展至跨機櫃的大規模AI運算架構。
Lightmatter的Passage光子互連平台將光學I/O移至GPU或其他運算晶片封裝附近，延伸資料傳輸距離。採用直接驅動的近封裝光學（NPO），傳輸距離可達約10公尺；整合式CPO則可支援最遠約2公里的連接。
這使高頻寬運算域有機會擴展至多個機櫃，讓數百至數千顆GPU協同工作。Passage L-Series與M-Series即針對大型Scale-Up系統設計，目標是提供每個封裝最高100 Tbps的互連頻寬。
互連頻寬，將成為AI系統競爭關鍵
Lightmatter產品副總裁Roy Kim指出，過去十年，運算能力的成長速度約為互連頻寬的100倍，造成處理器與資料傳輸能力之間的落差。即使GPU具備強大的運算能力，若資料無法及時送達，仍可能因等待資料而閒置。
隨著AI模型與叢集規模持續擴大，傳統銅連接及800 Gbps可插拔光學模組的頻寬成長難以完全滿足需求。Lightmatter認為，競爭關鍵將轉向數百至數千顆加速器能否借助高頻寬、低延遲的互連網路充分發揮效能。
Roy Kim表示，兩篇獲IEEE HOTI獎項肯定的研究論文顯示，在3D光子互連頻寬提升至四倍的情境下，模型訓練速度可提升2.7倍，推論預填充（prefill）速度可提升三倍，解碼（decode）速度則可提升兩倍，顯示互連架構也會直接影響AI訓練與推論效率。
以3D光子技術突破頻寬與功耗限制
Lightmatter指出，高速SerDes介面通常配置於晶片邊緣，但晶片周長的成長速度遠低於面積，限制I/O數量的擴充。此外，銅線的訊號損耗會隨傳輸頻率提高而加劇，需要更複雜的訊號補償，也增加功耗並縮短有效傳輸距離。
Passage 3D CPO與光子中介層技術則將光子元件堆疊於晶片下方，突破封裝邊緣的I/O配置限制。平台並採用雙向傳輸（BiDi）與密集波長分波多工（DWDM），在同一條光纖中傳送多個波長的資料流。
Lightmatter表示，透過最多16個波長、可將單條光纖的頻寬提升至1.6 Tbps，相較約200 Gbps的單纖傳輸水準提高八倍，並減少光纖、連接器與機櫃布線需求。
CPO將從交換器走向GPU與XPU
Lightmatter預期，CPO初期將以網路交換器為主要應用，隨後延伸至GPU及其他AI加速器（XPU）。經由將光引擎整合至運算晶片或交換器封裝，CPO可縮短高速訊號的電氣傳輸路徑，降低功耗並提高頻寬密度。
Passage L-Series CPO主要鎖定封裝邊緣電氣I/O頻寬不足的XPU與交換器設計，將光子元件堆疊於晶片下方，提供最高64 Tbps的雙向頻寬。Lightmatter亦是輝達（NVIDIA）NVLink Fusion互連合作夥伴、XPO多來源協定（MSA）創始成員，以及Open CPX MSA參與成員。
光互連將重新定義AI基礎設施
Lightmatter歸納出五項重要趨勢。
第一，光子元件將從晶片邊緣移至晶片下方。透過中介層中的波導，光子技術可在不同晶粒間傳輸資料，再連接至外部光纖網路。Passage M1000採用面積達4,000平方毫米的主動式光子中介層，展現大型光子整合架構的發展潛力。
第二，單條光纖將承載更多波長。Lightmatter與高通（Qualcomm）曾展示透過16波長DWDM，在標準單模光纖上實現單纖1.6 Tbps雙向傳輸。
第三，雷射光源將移入液冷機箱。Lightmatter的Guide DR採用獨立、可插拔的液冷網路介面卡（NIC）模組提供光源。四個模組即可支援204 Tbps交換器頻寬並占用1RU空間；相較之下，分離式ELSFP雷射模組約需32個、占用4RU，前者的整體密度可提升四倍。
第四，光纖連接將走向可拆卸設計。Lightmatter與SENKO合作開發的vClick Optics，透過晶圓級整合透鏡支援先進封裝測試與光學引擎預先驗證，插入損耗低於1.5 dB，且無須主動光纖對準即可進行現場維修。
第五，雷射製造將朝CMOS晶圓廠整合。Guide技術旨在將雷射生產導入300毫米CMOS晶圓製造環境。單顆Guide晶片可整合最多128個可調諧雷射，並支援從單一波長擴展至64個波長，以提高整合程度並緩解雷射供應瓶頸。
Lightmatter的技術布局顯示，AI基礎設施的發展重點正從單顆晶片效能，延伸至整體系統的資料傳輸效率。從3D光子中介層、CPO與DWDM，到液冷光源及可拆卸式光纖連接，相關技術旨在有限的封裝、機櫃與能源空間內，提供更高頻寬密度及更低的每位元傳輸功耗，進一步支援跨機櫃大型運算系統的擴展。