2024 ACM計算獎公佈，ETH教授Torsten Hoefler因對高性能計算架構的貢獻獲獎

當地時間 3 月 26 日，新一屆 ACM 計算獎得主正式公佈。

瑞士蘇黎世聯邦理工學院教授 Torsten Hoefler 因其在高性能計算領域的開創性工作及對人工智能革命的重要貢獻，被授予 2024 年度 ACM 計算獎（ACM Prize in Computing）。

Torsten Hoefler 現任蘇黎世聯邦理工學院計算機科學教授，同時擔任該校可擴展並行計算實驗室主任。另外，Hoefler 還在瑞士國家超級計算中心擔任人工智能和機器學習首席架構師。

此前，他在德國開姆尼茨工業大學獲得計算機科學碩士學位，隨後在美國印第安納大學獲得計算機科學博士學位。

在獲得 ACM 計算獎之前，Hoefler 已獲得多項國際榮譽，包括馬基斯·普朗克-洪堡獎章（Max Planck-Humboldt Medal）、IEEE 計算機協會 Sidney Fernbach 獎，以及 ACM 哥頓·巴爾獎（Gordon Bell Prize）。此外，他還是歐洲科學院（Academia Europaea）院士、IEEE 會士和 ACM 會士。

ACM 計算獎是計算機科學領域的重要國際獎項，專門表彰事業中期或早期的計算機科學家，其研究成果必須對計算領域產生根本性影響並具有廣泛意義。該獎項由知名數字服務和諮詢公司 Infosys 有限公司提供250,000 美元的獎金。

自 2007 年設立以來，ACM 計算獎已表彰了多位在計算機科學領域做出突出貢獻的傑出科學家。其往屆獲獎者均在各自領域引領技術變革，包括Google的 David Silver（AlphaGo 之父）、Jeffrey Dean（分佈式系統與深度學習基礎設施），美國麻省理工學院的 Dina Katabi（無線網絡），美國史丹福大學的 Dan Boneh（密碼學）等人，美國加利福尼亞大學伯克利分校的 Alexei A. Efros（計算機視覺）等人。

今年，Torsten Hoefler 因其在高性能計算和正在進行的人工智能革命方面的基礎性貢獻而獲獎。ACM 官方稱：「Hoefler 開發了現代超級計算機的許多核心功能，並定義了在這些計算機上分發人工智能模型的關鍵算法。」

ACM 主席 Yannis Ioannidis 對此評價道：「高性能計算機的能力已經達到令人難以置信的程度。僅在過去兩年中，我們就迎來了能夠每秒執行十億億次（10^18）計算的 E 級計算機時代。但沒有能夠處理海量數據的底層算法和標準，高性能計算機將無法發揮作用。值得注意的是，Hoefler 在還是學生時就引入了許多這些創新，而它們至今仍是編程大規模並行系統的最佳方式。這些系統的強大能力推動了人工智能、自然科學和許多其他領域的重大進步。」

Infosys 的 CEO Salil Parekh 也表示：「我們正處於人工智能發展的激動人心時期，未來充滿希望。Torsten Hoefler 在推動高性能計算發展方面發揮了重要作用，這反過來又推動了當前人工智能革命的發展。ACM 計算獎旨在表彰那些工作具有深度和影響力的‘早期至中期職業專業人士’。Hoefler 在 20 多歲時就完成了許多重要工作，這向年青人證明，年齡不是計算領域取得成就的障礙。」Hoefler 將於 2025 年 6 月 14 日在美國舊金山的 Palace Hotel 舉行的 ACM 年度頒獎晚宴上正式接受這一獎項。

Hoefler 開發了現代超級計算機的許多核心功能，並定義了在超級計算機上分佈式處理人工智能模型算法的關鍵方面。在消息傳遞接口（Message Passing Interface，MPI）標準的發展中，Hoefler 扮演了重要角色。MPI 是一個非正式的行業標準，用於在高性能計算網絡中的眾多單獨節點之間交換消息。消息傳遞標準允許同步每台單獨計算機的活動，在節點之間共享數據，以及對整個並行網絡進行方向控制。2012 年採用的 MPI-3 標準，由 Hoefler 主導了「進程拓撲」和「集體操作」工作組。他開發的非阻塞集體操作（如 Allreduce、Allgather、Bcast 及其各自的阻塞版本）被包含在各種集體通信庫中，甚至超出了 MPI-3 的範圍。這些操作現在為分佈式深度學習的核心提供了動力。

同時，Hoefler 是最早開發和發現現在廣為人知的「3D 並行性」（3D parallelism）概念的研究者之一，該概念現在驅動著整個人工智能行業的基礎設施設計。隨後，他和他的合作者繼續開發了許多用於高效流水線處理、稀疏通信、模型稀疏性和量化的創新技術。這項工作使現代計算機中的人工智能工作負載累計加速了 10-1000 倍。

此外，Hoefler 及其同事為 Myrinet 和 InfiniBand 等網絡開發的低級網絡路由協議和網絡拓撲，還為數千個人工智能和高性能計算超級計算機提供動力。這些貢獻構成了現代高性能人工智能系統的核心部分，這些系統用於訓練像 ChatGPT 這樣的大語言模型。

參考資料：

1.https://awards.acm.org/about/2024-acm-prize

運營/排版：何晨龍