晴晴兒青春進行式

在此次宣布推出的Tesla V100加速卡中，NVIDIA強調這是一張針對深度學習、人工智慧技術應用為主的產品，而最大秘密便在於在每一組Vlota顯示架構底下增加Tensor核心，等同在既有CUDA設計額外增加對應TensorFlow框架的深度學習效能表現，某種程度上或許可視為是對Google日前提出對應TensorFlow框架學習加速的TPU做「回應」。▲ (攝影／楊又肇) 分享 facebook 此外，此次以Xavier打造深度學習加速器的做法，其實也與Tesla V100加速卡的硬體架構設計相近，同樣針對TensorFlow學習框架進行優化，同時以開源形式提供使用，藉此讓車載系統針對行進路況等資訊進行更具效率的判斷學習。在發揮更高效率進行學習之餘，採用這樣的架構設計也有助於降低整體電力消耗，對於Tesla V100加速卡可能應用在多種項目學習，NVIDIA顯然想強調本身加速效果並非僅能用在特定領域，而是有更大應用彈性。同時就應用在自駕車的Xavier系統，同樣也能在用於全電驅動車款情況控制電力損耗，避免巨量運算造成車輛電力損耗過快情況。至於選擇在Tesla V100內加入Tensor核心，除了希望讓整個學習過程能以更高效率縮減訓練時間，同時大幅降低原本所需消耗電量，其實也對應目前越來越多深度學習與人工智慧技術都是基於TensorFlow框架，但實際上Tesla V100同時仍可對應其他學習框架，並非僅能對應Google所提的TensorFlow。而這樣的設計下，意味Tesla V100所能對應學習加速應用範圍更大，甚至在Tensor學習效能之外，本身所能對應運算效能表現就十分驚人，在進一步改善學習過程可能產生大量耗電問題，更可對應不同深度學習應用，另一方面也幾乎可視為向Google日前說明TPU運算效能相比現有GPU、CPU快上15-30倍的說法做回應。沒有絕對好的學習加速方式，只有合適的學習方式選擇先前Google於Cloud NEXT 2017活動期間表示基於TensorFlow學習模型架構客製化的專屬處理器元件Tensor Processing Unit (即TPU)，相比現有GPU、CPU進行學習訓練效率快上15-30倍，NVIDIA執行長黃仁勳隨即在官方部落格發文回應，同時也強調少了加速架構運算模式將無法帶動人工智慧技術快速成長，更直指Google僅以多年前基於Kepler顯示架構的Tesla K80做比較，而非使用改為Pascal顯示架構的Tesla P40，說明Google作法並不合理。▲ (攝影／楊又肇) 分享 facebook 確實就目前多數人工智慧、深度學習使用框架仍以Google開源提供的TensorFlow居多，Google所推行的TPU自然也是以此學習框架為設計，進而推動各類學習應用加速。不過，若以TPU主要對應雲端平台上的邏輯推演進行加速來看，相比NVIDIA所提出藉由GPU進行加速，進而縮減深度學習訓練所需時間，但其中並非是以提升反應時間為優先目的，而是確保學習正確精度的原則下，讓整體訓練時間變短，兩者的使用目的仍有差異。因此就實際應用層面來看，Google所提TPU加速應用，與NVIDIA藉由GPU所呈現的學習訓練加速，其背後的目的是有明顯差異，一如先前Intel強調本身藉由CPU運算能力推動的人工智慧學習運算模式，雖然看起來都是藉由硬體效能加速概念縮減學習時間，但以GPU為主的運算模式，與以CPU為主的推演能力本質上就有差異，因此最終還是要看其使用目的。同時不同訓練方式所涉及成本也明顯不同，雖然TPU整體造價較低，但主要用在雲端運算推理加速，實際訓練精度並不見得比透過GPU，甚至CPU的訓練結果高。但以整體市場需求來看，不同的深度學習模式、各類人工智慧技術應用，加上背後所需建置成本來看，原本就會導向不同的加速應用方式，因此也沒有絕對好的加速學習方式，只有最佳合適的學習加速應用方案。而以目前強調端點運算與講求學習精度的情況來看，NVIDIA所提出解決方案確實會有較高吸引力，但若是學習行為中必須加上更複雜的邏輯判斷，勢必也要搭配充足的CPU才能對應足夠運算需求，而將同樣對應TensorFlow學習框架的Tesla V100用於雲算運算學習加速或許也是選擇之一，只是整體建置成本恐怕會變得更高，同時也可能浪費更多運算效能。因此，針對應用目的選擇不同學習加速方式才是更合適的做法，畢竟不同加速方式各有其優劣表現之處，以及最佳建置成本效益表現。