AWS 宣布全面推出 Amazon EC2 DL1 實例
西雅圖--今天,Amazon.com, Inc. (NASDAQ: AMZN) 旗下公司 Amazon Web Services, Inc. (AWS) 宣布全面推出 Amazon Elastic Compute Cloud (Amazon EC2) DL1 實例,這是一種新的為訓練機器學習模型而設計的實例類型。 DL1 實例由 Habana Labs(一家英特爾公司)的 Gaudi 加速器提供支持,與最新的 GPU 驅動的 Amazon EC2 實例相比,它為訓練機器學習模型提供了高達 40% 的性價比。借助 DL1 實例,客戶可以針對自然語言處理、對象檢測和分類、欺詐檢測、推薦和個性化引擎、智能文檔處理、業務預測等用例更快、更經濟地訓練其機器學習模型。 DL1 實例可通過低成本的即用即付使用模式按需提供,無需預先承諾。要開始使用 DL1 實例,請訪問 。
“隨著 Habana Labs 不斷發展并使運營商覆蓋范圍更廣,有可能擴展到更多的企業用例,從而節省額外的成本。”
機器學習已成為主流,因為客戶已經意識到在云中大規模部署機器學習模型會產生切實的業務影響。為了在他們的業務應用程序中使用機器學習,客戶首先構建和訓練模型以通過從樣本數據中學習來識別模式,然后將模型應用于新數據以進行預測。例如,在大量聯絡中心成績單上訓練的機器學習模型可以做出預測,通過對話聊天機器人為客戶提供實時個性化幫助。為了提高模型的預測準確性,數據科學家和機器學習工程師正在構建越來越大、越來越復雜的模型。為了保持模型的預測準確性和高質量,這些工程師需要經常調整和重新訓練他們的模型。這需要大量的高性能計算資源,從而導致基礎設施成本增加。這些成本可能會讓客戶無法以維持高精度預測所需的頻率重新訓練他們的模型,同時也對想要開始嘗試機器學習的客戶構成障礙。
與通用 GPU 相比,新的 DL1 實例使用專為加速機器學習模型訓練而構建的 Gaudi 加速器,通過以更低的成本提供更高的計算效率。 DL1 實例具有多達 8 個 Gaudi 加速器、256 GB 高帶寬內存、768 GB 系統內存、第二代 Amazon 自定義 Intel Xeon Scalable (Cascade Lake) 處理器、400 Gbps 網絡吞吐量和高達 4 TB 本地 NVMe貯存。與用于訓練常見機器學習模型的最新 GPU 驅動的 Amazon EC2 實例相比,這些創新共同轉化為最高 40% 的性價比。客戶可以使用隨附的 Habana SynapseAI SDK 快速輕松地開始使用 DL1 實例,該 SDK 與領先的機器學習框架(例如 TensorFlow 和 PyTorch)集成,幫助客戶無縫遷移當前在基于 GPU 或 CPU 上運行的現有機器學習模型基于實例的 DL1 實例,代碼更改最少。開發人員和數據科學家還可以從 Habana 的 GitHub 存儲庫中針對 Gaudi 加速器優化的參考模型開始,其中包括適用于各種應用程序的流行模型,包括圖像分類、對象檢測、自然語言處理和推薦系統。
“機器學習的使用猛增。然而,訓練機器學習模型的挑戰之一是計算密集型,并且隨著客戶改進和重新訓練他們的模型而變得昂貴,”AWS 的 Amazon EC2 副總裁 David Brown 說。 “AWS 已經為任何機器學習項目或應用程序提供了最廣泛的強大計算選擇。添加具有 Gaudi 加速器的 DL1 實例為云中基于 GPU 的實例提供了迄今為止最具成本效益的替代方案。它們的價格和性能的最佳組合使客戶能夠降低訓練成本、訓練更多模型并更快地進行創新。”
客戶可以使用 AWS Deep Learning AMI 或使用 Amazon Elastic Kubernetes Service (Amazon EKS) 或 Amazon Elastic Container Service (Amazon ECS) 來啟動容器化應用程序的 DL1 實例。為了獲得更受管理的體驗,客戶可以通過 Amazon SageMaker 訪問 DL1 實例,讓開發人員和數據科學家更輕松、更快速地在云和邊緣構建、訓練和部署機器學習模型。 DL1 實例受益于 AWS Nitro 系統,這是一組構建塊,可將許多傳統虛擬化功能卸載到專用硬件和軟件,以提供高性能、高可用性和高安全性,同時降低虛擬化開銷。 DL1 實例可作為按需實例、Savings Plans、預留實例或 Spot 實例購買。 DL1 實例目前在美國東部(弗吉尼亞北部)和美國西部(俄勒岡)AWS 區域可用。
40 多年來,希捷科技一直是提供數據存儲和管理解決方案的全球領導者。希捷的數據科學和機器學習工程師構建了先進的深度學習 (DL) 缺陷檢測系統,并將其部署在公司的全球制造設施中。在最近的概念驗證項目中,Habana Gaudi 超過了訓練希捷生產中當前使用的一種深度學習語義分割模型的性能目標。希捷運營、技術和高級分析高級工程總監 Darrell Louder 表示:“我們預計,由 Habana Gaudi 加速器提供支持的 Amazon EC2 DL1 實例具有顯著的性價比優勢,未來可能會成為 AWS 計算集群的引人注目的補充。” “隨著 Habana Labs 不斷發展并使運營商覆蓋范圍更廣,有可能擴展到更多的企業用例,從而節省額外的成本。”
英特爾創建了 3D 運動員跟蹤技術,可以實時分析運動員的動作視頻,從而為性能訓練過程提供信息并增強觀眾在比賽期間的體驗。 “在由 Habana Labs 的 Gaudi 加速器提供支持的 Amazon EC2 DL1 實例上訓練我們的模型,將使我們能夠準確可靠地處理數千個視頻并生成相關的性能數據,同時降低培訓成本,”銷售和副總裁 Rick Echevarria 說營銷集團,英特爾。 “借助 DL1 實例,我們現在可以以所需的速度和成本進行訓練,從而高效地為各種運動的各級運動員、團隊和廣播公司提供服務。”
Riskfuel 為管理金融投資組合的公司提供實時估值和風險敏感性,幫助他們提高交易準確性和業績。 “有兩個因素將我們吸引到基于 Habana Gaudi AI 加速器的 Amazon EC2 DL1 實例,”Riskfuel 首席執行官 Ryan Ferguson 說。 “首先,我們希望確保我們的銀行和保險客戶能夠運行利用最新硬件的 Riskfuel 模型。我們發現將我們的模型遷移到 DL1 實例非常簡單明了 — 實際上,只需更改幾行代碼即可。其次,培訓成本是我們支出的重要組成部分,而價格性能提高 40% 的承諾為我們的底線提供了潛在的實質性收益。”Leidos 被公認為十大健康 IT 供應商,為醫院和衛生系統、生物醫學組織以及每個專注于健康的美國聯邦機構提供廣泛的可定制、可擴展的解決方案。 “我們今天推動醫療保健的眾多技術之一是使用機器學習和深度學習基于醫學成像數據進行疾病診斷。我們龐大的數據集需要及時有效的培訓,以幫助尋求解決一些最緊迫的醫學謎團的研究人員,”Leidos 健康與人類服務部首席技術官 Chetan Paul 說。 “鑒于 Leidos 及其客戶需要對深度學習模型進行快速、簡單且經濟高效的培訓,我們很高興能夠與英特爾和 AWS 一起開始這一旅程,以使用基于 Habana Gaudi AI 處理器的 Amazon EC2 DL1 實例。使用 DL1 實例,我們預計模型訓練的速度和效率會提高,從而降低風險和研發成本。”
Fractal 是人工智能和分析領域的全球領導者,為財富 500 強公司的決策提供支持。 “人工智能和深度學習是我們醫療影像業務的核心,使客戶能夠做出更好的醫療決策。為了提高準確性,醫療數據集變得越來越大、越來越復雜,需要對模型進行更多的訓練和再訓練,從而推動對提高計算性價比的需求,”Fractal 集團首席執行官 Srikanth Velamakanni 說。 “新的 Amazon EC2 DL1 實例承諾比基于 GPU 的 EC2 實例的培訓成本顯著降低,這可以幫助我們控制成本并使 AI 決策更容易為更廣泛的客戶群體所接受。”
關于亞馬遜網絡服務
15 年來,Amazon Web Services 一直是世界上最全面、被廣泛采用的云產品。 AWS 一直在不斷擴展其服務以支持幾乎任何云工作負載,現在它擁有 200 多項功能齊全的服務,用于計算、存儲、數據庫、網絡、分析、機器學習和人工智能 (AI)、物聯網 (IoT) 、移動、安全、混合、虛擬和增強現實(VR 和 AR)、媒體以及來自 25 個地理區域內的 81 個可用區 (AZ) 的應用程序開發、部署和管理,并宣布計劃再增加 24 個可用區和另外 8 個可用區澳大利亞、印度、印度尼西亞、以色列、新西蘭、西班牙、瑞士和阿拉伯聯合酋長國的 AWS 區域。數以百萬計的客戶(包括發展最快的初創公司、最大的企業和領先的政府機構)信任 AWS 來支持他們的基礎設施、變得更加敏捷并降低成本。
關于亞馬遜
亞馬遜遵循四項原則:以客戶為中心而非以競爭對手為中心、對發明的熱情、對卓越運營的承諾以及長期思考。亞馬遜努力成為地球上最以客戶為中心的公司、地球上最好的雇主和地球上最安全的工作場所。客戶評論、一鍵購物、個性化推薦、Prime、亞馬遜物流、AWS、Kindle Direct Publishing、Kindle、Career Choice、Fire 平板電腦、Fire TV、亞馬遜 Echo、Alexa、Just Walk Out 技術、亞馬遜工作室和氣候承諾是亞馬遜開創的一些東西。有關更多信息,請訪問 amazon.com/about 并關注@AmazonNews。
特別聲明:以上文章內容僅代表作者本人觀點,不代表ESG跨境電商觀點或立場。如有關于作品內容、版權或其它問題請于作品發表后的30日內與ESG跨境電商聯系。
二維碼加載中...
使用微信掃一掃登錄
使用賬號密碼登錄
平臺顧問
微信掃一掃
馬上聯系在線顧問
小程序
ESG跨境小程序
手機入駐更便捷
返回頂部