mlx-serve

汎用AI

モデル基盤オンデバイスAI

mlxserve.commlx-serve はオープンモデルをローカルで動かす Apple Silicon 向けのネイティブ推論サーバです。

サイトを開く ↗

AlphaMoatによると、最新のデータ月のmlx-serve(mlxserve.com)の月間訪問数は0で、トラフィックデータのある17,424件のAIサイト中0位、汎用AIでは2,225件中0位です。

月間訪問数

総合順位(17,424件中)

汎用AI内の順位(2,225件中)

最大市場

mlx-serveとは

製品概要

mlx-serve は Apple Silicon 向けのネイティブ推論サーバで、オープンモデルをローカルで実行します。MLX と GGUF の両方のウェイトを OpenAI と Anthropic 互換の API の背後で提供するため、Claude Code のようなツールがクラウドエンドポイントではなく private なモデルを指せます。チャット以外にも画像、音楽、動画、3D を生成し、短いサンプルから声をクローンし、ランチャーショートカット付きの常駐アシスタントとしても動けます。

主な機能

macOS 上での MLX と GGUF モデルのローカル推論。OpenAI と Anthropic 互換の API。自分自身のドキュメントを使った検索付きチャット。端末での画像、音楽、動画、3D 生成。ボイスクローンとハンズフリー音声モード。無料、オープンソース、完全オフライン。

ビジネスモデル

アプリは無料でオープンソース、月額料はなし。ユーザーは自分の Mac で走らせ、入力したものがそのマシンから外に出ることはありません。