隨著生成式AI、大型語言模型與資料中心運算需求持續增加，AI伺服器的硬體架構也變得越來越複雜。過去一般伺服器主要處理資料儲存、網站服務與企業應用，現在AI伺服器還需要支援大量GPU平行運算、高速記憶體存取，以及多台伺服器之間的資料交換。

這些變化讓高速連接器成為AI伺服器的重要電子零組件。

AI伺服器不只需要更高的資料傳輸速度，也需要在有限的機櫃空間內，整合高速訊號、電源供應與散熱系統。當GPU數量增加、網路頻寬提高，連接器的訊號完整性、接點密度與可靠度就更加重要。

AI伺服器對高速連接器的需求增加，主要原因不是單純增加連接埠數量，而是GPU之間、伺服器之間與儲存系統之間，需要傳輸更多資料，並維持穩定的高速訊號品質。

對電子零組件採購、硬體設計工程師與連接器代理商而言，了解AI伺服器的連接架構，有助於掌握高速連接器的規格、應用與供應鏈需求。

1. AI伺服器和一般伺服器有什麼不同？

AI伺服器通常針對人工智慧訓練、推論與大量平行運算進行設計。

相較於一般企業伺服器，AI伺服器可能配置更多GPU或其他AI加速器，並使用高頻寬網路連接多台運算設備。

例如大型AI模型訓練可能需要多顆GPU共同處理資料，運算過程中必須頻繁交換模型參數與中間運算結果。

如果資料傳輸速度不足，即使GPU本身具有很高的運算能力，也可能因為等待資料而降低整體效率。

AI伺服器有哪些主要硬體需求？

包括：

• 高效能CPU與GPU

• 高頻寬記憶體

• 高速GPU互連

• PCIe高速擴充介面

• 高頻寬網路

• 大容量電源供應

• 高效率散熱系統

• 高密度高速連接器

其中，高速連接器負責連接不同電路板、模組與設備，是維持資料傳輸的重要硬體介面。

2. AI伺服器為什麼需要更多高速連接器？

AI伺服器的高速連接需求，主要來自運算架構與資料傳輸量的增加。

當伺服器整合多顆GPU時，可能需要透過高速互連架構進行資料交換。

此外，AI伺服器還需要與其他伺服器、儲存設備及網路交換器連接。

因此，高速連接器的需求可能出現在伺服器內部與外部網路兩個層面。

主要需求來源

1. GPU與CPU之間的高速資料傳輸

2. GPU與GPU之間的互連

3. 高速網路介面

4. PCIe擴充設備

5. 伺服器與交換器連接

6. 儲存設備資料傳輸

7. 模組化伺服器架構

不過，AI伺服器不一定比所有傳統伺服器使用更多實體連接器。

實際數量取決於GPU架構、主機板設計、網路拓樸與是否採用直接焊接或整合式模組。

3. AI伺服器常見的高速連接器有哪些？

AI伺服器會依照不同傳輸需求，使用多種類型的連接器。

第3段整理：AI伺服器常見高速連接器與應用

不同連接器的外形與傳輸能力不一定相同，不能只依照名稱判斷是否適合特定AI伺服器。

4. GPU數量增加，為什麼會提高高速連接需求？

AI伺服器常透過多顆GPU共同執行大型模型訓練與推論。

在多GPU架構中，除了各GPU本身的運算能力，也需要考慮GPU之間的資料交換效率。

例如模型平行化或分散式訓練，可能需要不同GPU交換中間結果與同步資訊。

如果互連頻寬不足，就可能限制整體系統效能。

GPU互連一定使用PCIe嗎？

不一定。

PCIe是常見的高速擴充介面，但部分AI運算平台也採用專用GPU互連技術。

例如NVIDIA的NVLink可用於支援的GPU互連架構。

實際連接方式可能使用電路板、專用互連模組、纜線或其他硬體設計。

因此，不能將所有GPU互連需求都視為一般PCIe連接器需求。

5. PCIe高速連接器為什麼對AI伺服器很重要？

PCIe（Peripheral Component Interconnect Express）是電腦與伺服器常見的高速擴充介面。

GPU、網路介面卡與部分儲存設備，都可能透過PCIe與系統連接。

隨著PCIe世代提升，每條通道可支援的資料傳輸能力也持續增加。

PCIe 4.0、5.0與6.0有什麼差別？

第5段整理：PCIe不同世代的主要傳輸規格

GT/s代表每秒傳輸次數，不等於實際應用程式可取得的資料吞吐量。

實際傳輸效能還會受到通道數、編碼、協定開銷與系統架構影響。

PCIe速度提高，對連接器有什麼影響？

高速訊號對阻抗控制、插入損耗、反射與串音更加敏感。

因此，連接器需要配合整體通道設計進行訊號完整性驗證。

6. PCIe 7.0會進一步提高高速連接器的技術要求嗎？

會。

PCI-SIG已於2025年6月正式發布PCIe 7.0規格，原始傳輸速率達128 GT/s，是PCIe 6.0的兩倍。PCIe 7.0採用PAM4訊號技術，主要面向AI、高效能運算與大型資料中心等應用。

隨著PCIe傳輸速度提高，整個訊號通道的損耗預算更加嚴格，連接器設計也需要配合升級。

PCIe 7.0連接器需要注意哪些問題？

包括：

• 高頻訊號插入損耗

• 回波損耗

• 差動阻抗控制

• 近端與遠端串音

• 接點結構

• PCB走線與過孔設計

• 連接器與線材整體匹配

但PCIe 7.0規格已發布，不代表所有AI伺服器都已採用PCIe 7.0。實際產品仍需要依照處理器平台、主機板與設備支援情況確認。

7. AI伺服器為什麼需要400G與800G高速網路？

大型AI模型訓練可能需要數十台甚至更多伺服器共同運算。

這些伺服器必須透過高速網路交換資料，因此網路頻寬與延遲會影響整體運算效率。

例如NVIDIA的AI基礎架構已採用400Gb/s與800Gb/s等高速網路配置，用於連接運算節點與交換器。

400G與800G代表什麼？

400G通常指每秒400 Gigabit的標稱資料傳輸速率，800G則代表每秒800 Gigabit。

但實際應用吞吐量還會受到網路協定、交換器與系統配置影響。

高速網路升級會提高光模組、連接器、纜線與交換器的技術需求。

8. OSFP與QSFP高速連接器有什麼差別？

OSFP與QSFP系列都是資料中心常見的高速可插拔模組介面。

兩者具有不同的機械規格、散熱設計與應用配置。

例如OSFP常見於高頻寬AI網路設備，部分QSFP系列則廣泛應用於不同世代的伺服器與交換器。

選擇OSFP或QSFP要注意什麼？

主要包括：

1. 設備支援的模組外形

2. 網路傳輸速率

3. 電氣介面規格

4. 模組功耗

5. 散熱需求

6. 光纖或銅纜配置

7. 交換器與網路卡相容性

OSFP與QSFP並非可以直接互換的連接器。

即使兩個模組都標示800G，也需要確認其電氣通道配置、設備相容性與韌體支援。

9. AI伺服器高速連接器為什麼需要更好的訊號完整性？

當高速訊號通過PCB、連接器與線材時，可能受到導體損耗、介電損耗、阻抗不連續與串音影響。

資料傳輸速度越高，這些問題通常越需要仔細控制。

例如高速連接器接點結構不合理，可能造成訊號反射。

如果相鄰訊號通道隔離不足，也可能增加串音。

訊號完整性常見評估項目

包括：

• 插入損耗（Insertion Loss）

• 回波損耗（Return Loss）

• 近端串音（NEXT）

• 遠端串音（FEXT）

• 差動阻抗

• 眼圖與訊號品質

• 通道誤碼率（BER）

高速連接器不能只看接點數量或標稱速率，還需要確認整個訊號通道是否符合系統要求。

10. 高速連接器為什麼越來越重視小型化與高密度？

AI伺服器內部需要安裝GPU、網路卡、電源模組與散熱設備，主機板空間非常有限。

如果連接器體積過大，可能影響其他零組件配置。

因此，高密度連接器需要在有限空間內提供足夠的訊號通道。

高密度連接器有哪些設計挑戰？

包括：

• 接點間距縮小

• 訊號通道數量增加

• 散熱空間不足

• 接點之間的串音

• PCB布局困難

• 組裝精度要求提高

連接器小型化不代表可以犧牲機械強度與可靠度。

尤其是需要反覆插拔的模組，還需要考慮插拔壽命與接點磨耗。

11. AI伺服器高速連接器為什麼需要重視散熱？

高速網路模組與相關電子元件在運作時會產生熱量。

例如部分800G光通訊模組具有一定功耗，需要透過散熱片、氣流與設備結構控制溫度。

NVIDIA的800G OSFP模組產品資料也明確列出功耗與工作溫度要求，顯示散熱是高速網路介面設計的重要項目。

高速連接器散熱設計有哪些重點？

包括：

1. 模組功耗

2. 連接器周圍氣流

3. 散熱片配置

4. 機箱空間

5. 工作溫度

6. 接點電阻與溫升

如果設備採用液冷架構，也需要確認連接器與相關模組是否符合整體機構設計。

12. 高速銅纜與光纖連接，AI伺服器應該怎麼選？

AI伺服器常見的高速互連方式包括直接連接銅纜、主動式銅纜與光纖連接。

不同方式適合的傳輸距離、成本與功耗不同。

直接連接銅纜（DAC）

常用於機櫃內或短距離設備連接。

優點是部分應用成本較低，且被動式DAC不需要額外的主動訊號處理元件。

但傳輸距離會受到速率、線材與通道損耗限制。

主動式銅纜（ACC／AEC等）

透過主動式電子元件改善訊號傳輸條件。

適合部分需要延長銅纜傳輸距離的應用。

光纖連接

適合較長距離或高頻寬連接。

但需要考慮光模組、光纖種類、連接器與整體系統成本。

NVIDIA的LinkX產品系列也涵蓋DAC、主動式銅纜與光通訊方案，供不同距離及網路架構使用。

13. AI伺服器高速連接器的可靠度為什麼很重要？

資料中心通常需要長時間連續運作。

如果高速連接器接觸不良，可能造成資料傳輸錯誤、連線不穩或設備異常。

尤其是大量伺服器共同運算的環境，單一連接問題可能影響相關運算任務。

高速連接器可靠度需要確認哪些項目？

包括：

• 接觸電阻

• 絕緣電阻

• 耐電壓

• 插拔壽命

• 機械固定能力

• 振動與衝擊測試

• 溫度循環

• 材料耐熱性

• 接點鍍層品質

實際測試項目與合格標準，應依照產品規格及應用環境決定。

14. AI伺服器高速連接器可以使用替代料嗎？

可以評估，但需要特別謹慎。

高速連接器與一般低速連接器不同，即使兩款產品具有相同接點數量與外形尺寸，也不代表高速訊號性能相同。

例如兩款板對板連接器看起來可以插合，但阻抗、損耗或接腳定義可能不同。

高速連接器Second Source評估重點

包括：

1. 完整原廠料號

2. 機械尺寸

3. 接腳排列

4. 配對連接器

5. 訊號傳輸規格

6. 插入損耗

7. 回波損耗

8. 額定電流

9. 工作溫度

10. 測試與驗證資料

對於AI伺服器等高頻寬設備，替代料應經過必要的訊號完整性與系統相容性驗證。

15. AI伺服器高速連接器採購，為什麼要注意交期？

AI伺服器硬體平台更新速度快，不同世代可能使用不同的高速連接器與模組。

如果設計階段沒有確認零件供貨情況，可能在量產時遇到交期問題。

尤其是特殊高速背板連接器、客製化線材或特定光模組介面，未必能直接使用一般庫存品替代。

採購人員需要確認哪些資訊？

包括：

• 原廠完整料號

• 產品生命週期

• 標準交期

• 最低訂購量

• 樣品供應

• 量產供貨能力

• 替代料可能性

• 技術文件完整性

• 批次追溯要求

如果產品預計長期量產，應提前與供應商確認供貨規劃。

16. TE Connectivity、Molex等品牌在AI伺服器連接器市場有哪些應用？

AI伺服器涉及高速板對板、線對板、背板與高速I/O連接器，因此需要不同類型的連接解決方案。

TE Connectivity、Molex、Amphenol等連接器製造商，都提供不同系列的高速資料傳輸產品。

但不同品牌與產品系列的性能、尺寸及適用平台並不相同。

採購高速連接器不能只看品牌

應先確認設備需要的傳輸規格，再尋找符合要求的產品系列。

例如高速背板連接器，需要比較差動訊號性能與接點配置。

如果是高速網路模組介面，則需要確認OSFP、QSFP等外形與系統規格。

即使同一品牌旗下，也可能存在不同世代與不同傳輸能力的產品。

17. 2027年AI伺服器高速連接器有哪些值得關注的趨勢？

從目前已發布的技術規格與產品發展來看，AI伺服器高速連接器預期將持續朝向更高頻寬、更高密度與更低傳輸損耗發展。

PCIe高速介面持續升級

PCIe 7.0規格已正式發布，將推動下一代高速資料傳輸通道設計，但實際產品普及速度仍取決於平台導入情況。

800G與更高速網路發展

AI資料中心需要更高的網路頻寬，帶動高速光模組、連接器與線材升級。

2026年10月，NVIDIA與Cisco也公布新一代USFP可插拔光通訊介面方向，目標支援更高的單通道速率與連接密度。這屬於已公布的技術規劃，不代表所有產品已全面量產。

高速訊號與散熱整合

隨著連接密度提高，連接器需要同時考慮訊號品質、功耗與散熱。

模組化與維修便利性

資料中心設備需要快速更換故障模組，因此高速連接器的機械可靠度與可維修性仍然重要。

18. AI伺服器高速連接器詢價前，需要準備哪些規格？

高速連接器選型涉及電氣、機械與訊號完整性要求。

如果只提供「AI伺服器高速連接器」這個名稱，通常不足以確認適合的產品。

建議提供以下資料：

1. 應用位置：GPU、主機板、背板、網路卡或交換器

2. 連接器類型：板對板、線對板、PCIe、OSFP或QSFP

3. 傳輸規格：PCIe世代、乙太網路速率或其他介面標準

4. 通道數量：需要多少高速差動訊號通道

5. 接點數量：完整接腳配置

6. 機械尺寸：高度、寬度、間距與安裝空間

7. 訊號完整性要求：阻抗、插入損耗、回波損耗與串音

8. 電氣規格：額定電流與耐壓

9. 工作溫度：確認散熱與環境條件

10. 配對端料號：確認連接器是否可以正確插合

11. 預估採購數量：樣品、試產或量產

12. 交期需求：確認庫存與供貨安排

如果需要尋找TE Connectivity、Molex、Amphenol或其他品牌的替代產品，建議提供原始完整料號、產品資料表與實際傳輸規格。

對於PCIe 5.0、PCIe 6.0、PCIe 7.0或400G、800G高速網路應用，還應要求供應商提供適合的訊號完整性資料，並在正式量產前完成系統驗證，避免只依照外形與接點數量選購，造成高速傳輸不穩定或後續設計修改。