LEADERG AI Cluster 人工智慧叢集伺服器 (推論農場),可以同時使用 NVIDIA GPU, Intel VPU, Intel CPU 以及其他運算加速裝置。使用網路分散式運算及可擴充架構設計,一秒鐘可以處理數萬筆推論需求,具有 HA (High Availability) 能力。
軟體採用 LEADERG AppForAI 人工智慧開發工具,大幅降低深度學習網絡訓練及推論的技術門檻。軟體經過優化,大幅提高伺服器推論性能。
[ 運作原理 ]
1. Client 端推論需求透過網路 http post 向 AI Portal Server 提出。
2. AI Portal Server 看哪一個 AI 推論裝置有空,將推論需求透過網路 http post 向 AI 推論裝置提出。
3. AI 推論裝置收到推論需求後,如果深度學習模型不同,透過網路 http post 向 AI Portal Server 索取深度學習模型。
4. AI 推論裝置推論完成後,將結果以 JSON 格式回傳給 AI Portal Server 。
5. AI Portal Server 將結果以 JSON 格式回傳給 Client 端。
[ 適用產業 ]
晶圓、封測、面板、銅箔、 PCB 、設備、安控等。
[ 訂購方式 ]
如果您需要 LEADERG AI Cluster 人工智慧叢集伺服器,請到以下網址購買: