はじめに
次のような悩みありませんか？
- 「ローカルLLMを触ってみたいけれど、何から学べばいいかわからない」
- 「ローカルLLMの情報が散在していて体系的に学べない」
- 「PythonでLLMを扱うときのコード例や具体的手順がなくて手が止まる」
- 「クラウドLLMのコストや情報漏洩が心配で、ローカル運用に切り替えたい」
- 「LoRAやQLoRAなど、ファインチューニング技術の“実務レベル”を知りたい」
この本は、まさにその悩みを解消してくれる１冊です。
総評
対象読者
●ローカルLLMを実務に導入したいエンジニア・情シス担当者
●Ollama・RAG・PDF解析などを1冊で体系的に学びたい初中級者
●クラウド依存を減らしたい企業
●Pythonで生成AI技術をキャッチアップしたい人
●ファインチューニングに興味がある人
書籍内容（抜粋）
Chapter 1：LLMの基礎技術
- 01 大規模言語モデルとローカルLLM
- 大規模言語モデル（LLM）について
- 企業は汎用LLMでなくタスク特化型AIモデルに移行する
- ローカルLLMとは何か？
- ローカルLLMをクラウド上でLLMについて
- クラウドLLMとローカルLLMの違いについて
- クラウドLLMを使うメリット
- ローカルLLMのメリット
・ローカルLLMならクラウド依存がない
・ローカルLLMなら情報漏洩リスク無し
・ローカルLLMならモデルを手元で所有できる
・ファイルへとローカルファイルとして使える
- 02 Ollama導入編 ― DeepSeekやQwenなどを試してみよう
- Ollamaとは何か？
- Ollamaをインストールしてみよう
- Llamaを試してみよう
- DeepSeek R1 を試してみよう
- Qwen3 を試してみよう
- Open WebUIを利用してみよう
・Dockerを使ってOpen WebUIを動かす場合
・Open WebUIの使い方
- Ollamaとは何か？
- 03 いろいろなローカルLLMを試してみよう
- Llama 3
- DeepSeek R1
- Phi-4
- Gemma 3
- Mistral
- Falcon３
- Qwen3
- StarCoder2
- DeepSeek Coder
- （Column）いろいろなマシンで動作速度を測ってみた
- 04 ローカルLLMに必要なマシンスペック
- AIを利用するために必要な高性能なマシン
- GPUや専用ハードウェアがLLM性能向上の鍵
- CPUとGPUの違いについて
- 深層学習におけるGPUの役割
- LLMを動かすGPUの重要性
- CUDAとは
- ローカルLLMを動かすにはCUDA対応マシンが必要？
- 推論ならCUDAなしでも動く
- TPUについて
- Apple Siliconについて
- GPUとVRAMの関係
- 推論に必要なVRAM
- Fine-TuningではどれくらいのVRAMが必要？
- 必要なVRAMは？
- Column
- 推論時のVRAMサイズの計算方法
- FP16とFP32という表記について
- LLM推論をMacで利用するという選択
- ローカルLLMのGPUベンチマーク
- （Column）OllamaがGPUを使ってくれない場合
Chapter 2：ローカルLLMを自作ツールに組み込もう
- 01 ローカルLLMを組み込む手法
- Ollama APIについて
- APIとは何か？
- REST APIとは
- Ollama APIで実現できること
- Ollamaパッケージを利用したプログラム
- Ollama APIで可能になる自作ツールの種類
- （Column）LAN内からOllamaにアクセスする場合
- 02 ローカルLLMとGUIで挨拶を生成するツールを作ろう
- 本節で作るアプリ
- デスクトップアプリ／GUIアプリとは何か？
- 手軽にGUIを使おう
- TkEasyGUIで使えるダイアログ
- 手紙の挨拶文生成ツールを作ろう
- 03 ローカルLLMとWebサーバーで要約ツールを作ろう
- 本節で作成するツールについて
- Webアプリの仕組み
- Ollama APIをアプリに組み込む場合
- 要約Webアプリを作成しよう
- 非同期通信（Ajax）を利用して完成度を高めよう
- PyScriptを使えばJavaScript不要
- 04 ローカルLLMとWebSocketでチャットツールを作ろう
- 本節で作成するアプリ —— WebSocketを利用したチャットアプリ
- WebSocketとは？
- WebSocketを使ったチャットツールを作成しよう
- Chat履歴を活用するように修正しよう
- ストリームモードに対応しよう
Chapter 3 フルスクラッチで作るローカルLLM
- 01 ルールベースで作るチャットボット
- チャットボットとは
- ルールベースのチャットボットについて
- 音声認識と音声合成を使った会話システム
- 02 形態素解析とn-gramとマルコフ連鎖でテキスト生成しよう
- 形態素解析とは何か
- n-gramとは何か
- マルコフ連鎖によるテキスト生成の仕組みについて
- 03 LSTMでテキスト生成しよう
- ニューラルネットワークについて
- LSTMについて
- LSTMによるテキスト生成ツールを作ろう
- 04 Transformerでテキスト生成モデルを作成しよう
- Transformerについて
- Transformerでテキスト生成ツールを作ってみよう
- （Column）GPU搭載マシンなのに学習時にGPUが利用できない
- モデルのチューニングについて
Chapter 4：Fine-Tuningで作る オリジナルLLM
- 01 Fine-Tuningについて
- Fine-Tuningとは何か？
- Fine-Tuningの手法について
- Adapter Tuningについて
- LoRAについて
- QLoRAについて
- Fine-Tuningの手順
- （手順1）Fine-Tuningの目的を明確にしよう
- （手順2）Fine-Tuningに使うデータセットを準備しよう
- （手順3）ベースモデルの選定
- （手順4）トレーニングデータを作ろう
- （手順5）Fine-Tuningしたモデルを評価しよう
- （手順6）デプロイして活用しよう
- 02 論語に含まれるLLMを作ろう ― MistralをFine-Tuningしよう
- ここで作成するモデル
- Fine-Tuningのフレームワーク「unsloth」について
- トレーニングに使うマシンについて
- unslothをインストールしよう
- データセット「alpaca_cleaned_ja.json」を利用しよう
- Fine-Tuningのためのプロジェクトを作成
- 03 有名アニメを学習した自作LLMを作ってみよう ― 自作データセットを使ったLLMのFine-Tuning
- 04 オリジナルモデルをOllamaから利用しよう
- オリジナルモデルをOllamaから利用できるようにしよう
- Ollamaで使えるようにモデルを変換しよう
- （Column）WSL環境でうまく変換できない場合
- Hugging Faceでモデルを一般公開しよう
- （Column）量子化モデルの意味について
Chapter 5：マルチモーダルAI — 画像や動画の生成AI
- 01 画像生成AIを使ってみよう
- 画像生成AIとは何か？
- 画像生成AIを利用してみよう
- Python のプログラムから画像生成を試してみよう
- LLMを利用して画像生成プロンプトを試してみよう
- Windows の WSL に Ollama をインストールしよう
- 02 動画生成AIを使ってみよう
- ここで作成するツール — LLM と動画生成AIを組み合わせよう
- 動画生成AIについて
- FramePack とは
- AnimateDiff について
- LLM と連携して動画を生成しよう
- 03 マルチモーダルAIで大量の画像を自動分類しよう
- ここで作るプログラム — 画像を説明させ大量の画像ファイルを自動分類しよう
- 画像を分類するツールを作ってみよう
- 04 マルチモーダル対応AIエージェントを作ろう
- ここで作るツール — 画像に特化した AI エージェント
Chapter 6：LLM の弱点を克服しよう — PE / RAG / MCP
- 01 LLMの弱点を克服する技術（ICL / RAG / MCP / PE）
- ICL を使ってみる
- RAG を使う
- どうして RAG なのか？
- MCP の活用
- PE（プロンプトエンジニアリング）
- （Column）プロンプトエンジニアリング（PE）
- Few-shot とは
- CoT（Chain-of-Thought） — 思考の連鎖とは
- Self-Consistency とは
- ReAct とは
- Self-Ask プロンプトとは
- 02 MCP を活用したアプリを作ってみよう
- MCP サーバーと MCP ホストアプリを作ろう
- MCP とは何か？
- MCP の仕組み
- MCP ホストとは
- MCP クライアントとは
- MCP サーバーとは
- MCP サーバーを実装しよう
- MCP サーバーのプログラム
- MCP クライアントのプログラム
- MCP サーバーを LLM のチャットから呼び出してみよう
- 03 RAGで信頼性の高い回答を生成しよう
- RAG を利用した QA システムを作成しよう
- ベクトル検索について
- RAG を利用したQAシステム
- 04 ローカルLLMの性能を評価しよう
- LLM の性能を評価する
- JGLUE とは何か？
- JGLUE でモデルの性能を評価しよう
- モデルごとの性能テスト
- 05 RAGで相関図を作成しよう
書籍のポイント
本書の中でも特に注目すべき４つのポイントを紹介します。
ローカルLLMの基礎理解
ローカルLLMは「自分の環境で動く安全なAI」として、近年急速に注目が高まっています。
Chapter 1では、まず大規模言語モデル（LLM）の進化と社会的インパクトを整理し、クラウドLLMとローカルLLMの違いをわかりやすく解説します。情報漏洩リスクを抑えたい企業や、コスト管理を重視したい個人にとって、ローカルLLMが有効な選択肢である理由が腑に落ちる内容です。
さらに、Llama、DeepSeek、Qwen といった代表的なローカルモデルを実際に動かしながら比較できるよう構成されています。
特に本書が優れている点は、“どのモデルを選ぶべきか？” という実務的な観点が示されていることです。
用途によって最適なモデルは異なるため、自分の目的に合わせてモデルを選べる判断力が身につきます。
本章を読み終える頃には、ローカルLLMのメリットと限界、クラウドLLMとの住み分けが明確になり、あなたがAIをどのように活用すべきかの方向性が見えてきます。
Ollama × Python × Web で使えるAIアプリを作る
ローカルLLMを現場で本当に役立てるためには、「アプリケーションとして使える形」にすることが欠かせません。
Chapter 2は Ollama・Python・Web を組み合わせて 本当に使えるAIアプリ の構築手法を学べる実践的な内容です。
前半では Ollama API の使い方からスタートし、REST API の基本、Python からのモデル呼び出し、モデル切り替えまで、業務で使うための基礎を固めます。
Ollama がローカルLLMを“部品”として扱える仕組みを理解すると、あなた自身のツールにLLM機能を埋め込めるようになります。
初心者でも扱えるシンプルな構造のため、「まずは1つアプリを作ってみたい」という読者に最適です。
「ローカルLLMをどう活用すればいいのか？」という悩みを解消し、Ollama × Python × Web の王道構成でアプリケーション化できるスキルが身につきます。
RAGで業務データをAIに理解させる
RAG（Retrieval-Augmented Generation）は、LLMに“外部知識”を与えて回答精度を高めるための代表的な技術です。
Chapter 6では、Python を使った RAGシステムの構築方法を分かりやすく体系化 しています。
まず、フルテキスト検索型・情報抽出型・スプレッドシート連携型など、複数の方式を比較しながらシンプルなRAGを実装します。
さらに、ベクトル検索の実装、PDF の読み込み、類似検索の仕組みなど、AIを業務知識と連携させるための土台 がしっかり学べます。
他の書籍ではRAGは簡単に説明されがちですが、本書は「実務で役に立つ形で再現できる」レベルまで踏み込んでいるため、社内ナレッジ検索やFAQ自動化に応用したい読者にとって大きな価値があります。
Fine-Tuningで“自分専用LLM”を作る
Chapter 4 ではローカルLLMを “自分用に最適化したモデル” に仕上げるための Fine-Tuning を総合的に扱います。
また、“自作データセットで独自LLMを作る” 応用例も掲載されており、著作権に配慮しながらデータを整備する方法や、Fine-Tuning の効果を測る考え方も学べます。
最後には、学習したモデルを GGUF形式に変換してOllamaで使う方法 や、Modelfile を使ったモデル登録、Hugging Face 公開まで踏み込んでおり、AIを“育てて運用する”観点が総合的に身につきます。
この章を読めば、あなたも 自分の業務専用AIを作れる 未来が現実になります。
まとめ
本書は、ローカルLLMの基礎からアプリ開発、RAG、Fine-Tuning、マルチモーダルAI、そして LLM の弱点克服まで──AI開発の全工程を一冊に凝縮した“実務完全ガイド”です。
この一冊を読み終える頃には、あなたは 「AIを使う人」から「AIを作る人」へと進化 しています。
自分のデータで動くローカルAI、社内ナレッジ検索の自動化、独自LLMの育成、画像や動画を扱うマルチモーダルAIアプリまで、すべて自分の手で構築できるようになります。
さらに、RAGやMCPによって精度と安全性を担保する方法も学べるため、実務でAI活用を推進するリーダーとしての力が身につきます。
もしあなたが「生成AIを武器にキャリアを強くしたい」「安全に生成AIを活用したい」と考えているなら、この本は最高の投資です。
今すぐチェックして、あなたの生成AIスキルを一段上へ引き上げてください。
