Qwen3.8-27Bをllama.cpp on DGX Sparkで動かし、Claude Codeから使用するメモ
DGX Sparkでllama.cppによりQwen3.8-27Bをローカル実行しClaude Codeから利用する方法を解説。ビルド、systemd設定、Jinjaテンプレート、Claude Code連携までを網羅しています。
#DGX Spark #ASUS Ascent GX10 #llama.cppASUS Ascent GX10 (DGX Spark) 上でds4 (DwarfStar 4) を試すメモ
この記事では、DGX Sparkをサポートするようになったds4 (DwarfStar 4) を紹介します。インストール、コンパイル、OpenAI/Anthropic互換サーバーとしての実行、systemdサービスへの登録、Claude Codeからの接続について解説します。
#ds4 #DeepSeek V4 Flash #DGX Spark #ASUS Ascent GX10 #CUDA #NVIDIAASUS Ascent GX10 (DGX Spark) 上でvLLMでQwen 3.6 27bのNVFP4量子化モデルを起動するメモ
#DGX Spark #ASUS Ascent GX10 #CUDA #NVIDIA #vLLMASUS Ascent GX10をセットアップするメモ
この記事は、ASUS Ascent GX10のセットアップ手順をSSHキー登録からDocker、PyTorch、llama.cppサーバ構築まで詳しくまとめたメモです。
#DGX Spark #ASUS Ascent GX10 #CUDA #NVIDIA #llama.cpp #Ubuntu #PyTorch