NVIDIA(輝達)近日推出最新生成式 AI 開發套件「Jetson Orin Nano Super」,這是一款為開發者、學生和小型企業量身打造的 AI 開發設備。Jetson Orin Nano Super 僅手掌大小,價格設定在 249 美元(約新台幣 8,000 元),相較前代價格減半,但運算效能大幅提升,是一款兼具平價與高效的 AI 硬體解決方案。
Jetson Orin Nano Super 的效能突破,主要表現在運算能力和記憶體頻寬上。這款裝置支援每秒 67 兆次 INT8 運算(67 INT8 TOPS),運算效能比前代提升 70%,生成式 AI 的推論效能增加了 1.7 倍,記憶體頻寬亦增至每秒 102 GB,增幅達 50%。這些技術改進讓它能夠高效支援大型語言模型(LLM)開發、聊天機器人建構、視覺 AI 應用以及機器人部署等多樣化應用。
多元應用場景
輝達執行長黃仁勳形容這款產品為「從烤箱中拿出的超級電腦」,強調其高效能、低門檻的特性。他指出,Jetson Orin Nano Super 能夠適應多種場景,包括自動駕駛車輛的感測運算、智慧機器人的即時決策、以及個人工作站上的生成式 AI 開發。這款設備不僅適合專業開發者,也能成為 AI 愛好者和學術研究的理想工具。
Jetson Orin Nano Super 的開發套件內建 NVIDIA 提供的各種軟體資源,包括 CUDA、TensorRT 以及支持多樣化 AI 模型的開源開發框架。這些工具讓開發者能夠快速搭建和部署自定義 AI 解決方案,從而大幅降低了生成式 AI 的開發門檻。
推動 AI 技術普及
輝達推出這款產品的核心目標,是讓生成式 AI 技術能夠普及化,為更廣泛的受眾提供高效且可負擔的硬體。從小型初創企業到 AI 學習者,都能以低成本進行創新並提升競爭力。此外,這款套件的平價定位和簡易操作,特別適合教育環境中的 AI 教學,幫助更多學生接觸並掌握先進技術。
與前代產品的比較
相較於前一代 Jetson Nano,Jetson Orin Nano Super 在性能和性價比上有顯著優勢。不僅價格降低至一半,效能提升更是令人矚目。這樣的改進,讓許多開發者能以更低的成本,完成過去需要昂貴硬體支持的 AI 任務。對於那些對大型語言模型、圖像生成以及智慧裝置應用感興趣的開發者來說,這款設備無疑是一個極具吸引力的選擇。
展望未來
Jetson Orin Nano Super 的推出,標誌著 NVIDIA 在 AI 硬體領域的一次重要突破。隨著生成式 AI 技術的不斷發展,這款設備將為開發者帶來更多可能性,促進生成式 AI 在商業、教育和研究等多個領域的應用普及。未來,Jetson Orin Nano Super 很可能成為生成式 AI 開發的標配工具,助力 AI 技術更進一步融入日常生活。
這款設備的正式發布,也展示了 NVIDIA 在 AI 領域的創新能力和市場洞察力。不僅讓 AI 開發變得更簡單、更高效,也讓更多人能夠參與到這場技術革命中,共同推動人工智慧的未來。