全文轉載自：DIGITIMES電子時報 (Socionext打造大數據與人工智慧伺服器系統)
人工智慧與物聯網的應用緊緊的攫取每一個人的目光，其所引領的應用，不斷挑戰科技產業的極限，對IC晶片設計與半導體產業而言，形成新一波顛覆式創新的起點，尤其在資料中心與邊緣運算所需要的多樣化伺服器系統，揭開巨量資料(Big Data)時代的序幕。
街頭巷尾林立的監控視訊的視訊影像裝置，以及愈來越多的智慧型裝置、人工智慧系統和工業4.0的各種數位化應用的開發，電子檔案、影像、紀錄、以及其他數位資訊的爆炸性成長，今天的雲端資料中心，大量的非結構性資料蜂擁而至，以千兆位元組(Petabyte)為單位的資料量，更造成伺服器運算負載呈指數型曲線成長。
日本主要的IC設計公司Socionext Inc.，擅長於影像、網路、電腦運算與其他尖端技術之發展與應用，尤其以視覺影像與高功能系統單晶片(SoC)在競爭激烈的晶片設計市場上，一直維持高能見度，面對雲端服務與物聯網應用所需要的伺服器相關的晶片解決方案，嘗試用原生於超級電腦系統設計的技術觀點，走出一條不同的伺服器系統的產品發展策略。
這次專訪Socionext的SynQuacer伺服器開發計劃負責人山根秀一(Shuichi Yamane)部長，山根先生負責Socionext旗下以ARM核心為主的處理器產品的市場行銷任務，對伺服器與資料中心的應用有多年的第一手觀察與親身參與的經驗，配合其早年在加州矽谷的常駐經驗，熟悉伺服器晶片與多樣化資料中心相關的解決方案。
儘管面對Petabyte為單位的巨量資訊成長幅度的衝擊，促使企業藉由快速轉移至雲端服務的環境，以尋求低成本、高敏捷、高效率、以及控制能力的提升，根據IDC研究報告，從現在到2020年，每年所製造的數位資訊，有超過1/3會存放在雲端環境中，無論是資料中心、企業雲端機房、私有雲，或是各式各樣的應用，都需要仰賴大量的資料處理與運算的伺服器系統，以提升使用的效率。
山根先生坦言使用ARM核心處理器所打造的伺服器晶片，在市場佔有率上仍力有未逮，大多數以ARM核心所開發的高功能伺服器處理器晶片，多半以多核心的Cortex-A57或Cortex-A72為主的晶片設計為主，Socionext則選擇一條完全不同的路，從小核心的ARM架構來設計處理器晶片，利用24個Cortex-A53的64位元核心組成Socionext的SynQuacer SC2A11 SoC晶片。
Petabyte為單位的巨量資訊處理能力是資料中心的新寵
Socionext認為與其不斷在單一晶片中不斷加大運算核心的面積與時脈速度，不如使用更多小運算核心來設計處理器晶片，藉由小而美的概念並善用平行運算的技術，就可以獲得整體相同的運算效能，舉例來說，利用六顆Socionext的SynQuacer SC2A11 SoC晶片的平行運算，效能幾乎等同於Xeon的E5處理器，但是每一顆Socionext的SoC約僅消耗5W的功率，六顆SoC總共消耗30W，比起單顆Xeon的E5處理器就需要消耗超過100W的功率，Socionext的半導體解決方案省電效能上強勢勝出。
同時為了讓大量處理器的並行運算效能的有效提升，也需要同步設計高速的資料交換與連接的技術，Socionext一舉打造DDT(Direct Data Transaction)的技術，方便於Socionext的SoC晶片橫向擴充之所需，以資料中心中需要密集處理數百個Petabyte資料的應用，傳統上標準40G的 Ethernet技術，扣除通訊協定頻寬浪費(Protocol Overhead)只能做到實際約4 Gbps的資料傳輸速度，而DDT技術使用Socionext專屬的通訊協定，可以突破10 Gbps的資料傳輸速度同步處理巨量的資料，讓資料處理能力上獲得重大的突破。
省電效能與高速資料傳輸的兩項主要的特點，讓Socionext可以因應不同運算效能的需求，利用單一的SC2A11 SoC晶片設計運算陣列介面卡PEC(Processor Element Card)為單元，彈性組合不同數量的PEC來打造不同的伺服器系統，兼具運算效能與功率消耗的多樣化需求，目前Socionext所打造的高效能SynQuacer伺服器系統，最多可以插上64片PEC，聚集1536顆ARM的核心組成高密度的運算陣列，掌握非常可觀的運算效能。
鎖定人工智慧與巨量資料索引伺服器的應用
SynQuacer伺服器系統瞄準兩個主要的應用訴求，山根先生強調，首先就是網路營運商(ISP)與電子商務巨擘的資料索引(Indexing)伺服器的應用，這關係著搜索引擎服務的良莠，原本牽涉數百個Petabyte資料量的密集運算處理，以進行資料檢索與建立索引，讓原本需要耗費數日或甚至數週時間的密集運算與高耗能的應用，可以大幅度節省。
第二就是人工智慧(AI)的應用，因為AI需要從不同的類神經網路與機器學習的技術來發展聰明演算法，透過大量的資料來訓練深度學習框架(Deep Neural Network；DNN)，讓系統可以透過互相學習，呈現指數級的進步，資料中心大量使用如TensorFlow等學習框架，處理與大量後設資料(Metadata)做超參數最佳化(Hyperparameter optimization)調整，SynQuacer伺服器系統的多節點(Multi-Node)運算效能得以大展身手，有效減少數十倍的訓練時間，大量節省資料中心的設備總持有成本(TCO)，並提高系統效率。
類神經網路使用大量的數據完成訓練後，會著手進行AI推論(AI inference)的實用，開始大量部署到邊緣運算節點(Edge node)，由於邊緣運算伺服器對耗能要求非常嚴苛，因為許多終端裝置都依賴電池來驅動，這對超級省電的SC2A11 SoC晶片來說是一大優勢。
另外，「小型化」一直是邊緣運算工作站或微型伺服器產品設計的重要訴求，利用SC2A11 SoC晶片本身所具備的彈性與橫向擴展的能力，可以使用不同數量的SoC晶片以建構功能強大的微型伺服器，兼顧小型化與低功耗的需求，有助於諸如大量節省即時影像辨識時間等使用範例的推廣，爭取雲端資料中心伺服器分析與資訊運算的作業時間，Socionext的SoC處理器能同時滿足更多的工作需求。
SynQuacer伺服器系統即將於2018年第1季問世
山根先生透露Socionext已經開始尋求具備小核心的人工智慧晶片(AI accelerator chip)的整合，透過平行運算的技術，打造同時具備CPU與人工智慧晶片的邊緣運算媒體伺服器的新發展，讓使用者找尋節能與效能的最佳平衡點，由於愈來愈多樣化與非結構化數據資料充斥，尤其愈來愈多的人工智慧系統使用Hadoop環境，因而要求更快速及更複雜的軟、硬體分析與運算功能，以提供企業用戶能從中獲取資料的洞察(Data Insights)，Socionext據此發展出下一代的DDT-R的技術，並致力改良伺服器晶片設計，以強化省電效能與彈性的平行運算的架構，以支援數百個Petabyte等級的超高資料量世代的來臨。
Socionext以新的創意重新設計伺服器系統，並且從伺服器晶片與系統平台的設計架構上出發，全面翻新處理器晶片與應用的思維，為了達成這個創新，Socionext首先走訪台灣電子製造供應鏈，並建立完整的生態系統，已確保伺服器產品的產能與品質；關於各方所關注的產品上市時程，Socionext的SC2A11處理器將於2017年10月底開始量產，而SynQuacer伺服器系統將可望於2018年第1季正式登場，台灣的生態系統與協力夥伴已經就位，搭配進駐台北的Socionext的日本工程團隊，雙方緊鑼密鼓的進行系統驗證，實現更快、更好的大數據分析與人工智慧的新應用。
如需了解更多產品資訊，請造訪台灣索思未來科技官網或粉絲團專頁。
圖說：Socionext山根 秀一(Shuichi Yamane)部長揭露SynQuacer伺服器系統的發展計畫，展示以Petabyte為單位的巨量資訊處理能力。