llama.cppとPLaMo翻訳モデルでOpenAI API互換の翻訳サーバーを立てる

この記事では、llama.cppでPLaMo翻訳モデルをローカルのOpenAI API互換サーバーとして立ち上げ、日英翻訳をcurlで実行する手順を紹介します。

java-llama.cppを使ってローカルLLMでテキスト生成する

この記事では、java-llama.cpp 4.1でローカルLLMをJavaに組み込む手順を紹介します。

Foundry Localを使ってSpring AIからローカルLLMにアクセスする

この記事は、MicrosoftのFoundry LocalでローカルAIモデルをインストール・起動し、OpenAI互換APIでSpring AIアプリと連携する手順を紹介します.

Geminiの無料枠でOpenAI APIを使ってSpring AIからアクセスする (MCP連携あり)

llama.cppでGemma 3 27Bを動かしてSpring AIからアクセスする (MCP連携あり)

llama.cppでDeepSeek-R1-Distill-Qwen-32B-Japaneseを動かしてSpring AIからアクセスする

llama-cppのOpenAI互換サーバー機能を使ってSpring AIからアクセスする

OllamaをOpenAI互換サーバーとして使用し、Spring AIからアクセスする

llama-cpp-pythonを使ってLlama 3モデルを使ったOpenAI互換サーバーを起動しSpring AIからアクセスする

llama-cpp-pythonを使ってGemmaモデルを使ったOpenAI互換サーバーを起動しSpring AIからアクセスする

llama-cpp-pythonを使ってローカルLLMでテキスト生成とOpenAI互換サーバーを立てる