oMLXomlx.aioMLX 是執行在 Apple Silicon 上的本地大模型推理服務。
訪問官網 ↗據 AlphaMoat 統計,最新資料月 oMLX(omlx.ai)月訪問量為 0,在全部 17,424 個有流量資料的 AI 網站中排名第 0 位,在「通用 AI」分類(2,225 個)中排名第 0 位。
oMLX 是基於 MLX 的原生 macOS 推理服務,把 KV 快取分頁寫到 SSD,讓編碼 Agent 反覆回退到舊字首時直接從磁碟恢復,而不是重新計算。
6 項
- 分頁 SSD KV 快取把快取塊以 safetensors 格式落盤,熱塊留在記憶體、冷塊按 LRU 進 SSD,跨請求與服務重啟都能複用
- 連續批處理讓併發請求不再排在單請求後面
- 提供原生 macOS 選單欄應用與網頁面板,可啟停服務、管理模型並檢視即時指標
- 支援 LLM、VLM、embedding 與 reranker 同時載入
- 讀取 HuggingFace 上的 MLX 格式模型
- 透過 OpenAI 與 Anthropic 相容 API 接入 Apple Silicon 應用
點選檢視詳情,或「+ 對比」與 oMLX 並排對比
解答問題、寫作、生成圖像與程式設計的一站式 AI 助手
+ 對比寫作、規劃與頭腦風暴一體的 Google AI 助手
+ 對比可分析檔案、程式碼並協助寫作的 Anthropic AI 助手
+ 對比專注通用人工智慧底層模型與技術的大模型廠商
+ 對比可對話、生圖、寫程式碼並即時聯網的 AI 助手
+ 對比位元組跳動旗下整合多模型的全能 AI 對話助手
+ 對比資料月份:— · 訪問量為第三方流量估算,按月聚合更新,適合看量級與趨勢。同一產品的多個域名已合併統計。口徑說明見資料方法。