その１ 生成AIアプリの開発(チャットボット)
以前、Llama3.2などの軽量モデルとRAGデータを使って獣医先生と会話する専用チャットボットアプリを作りました。以下に示します。生成AIプリ① | TWINKLE TEC
日経ソフトウェア2025年7月号(P030-P035)の「クジラ飛行机」さんの記事を参考に機能を拡張しました。その際、獣医先生ボットのほかにも簡単に応用ができますと説明しましたが、カスタム化するためには、AI担当者の画像とuserの画像を準備する必要があります。また、専用のRAGデータの準備も必要です。獣医先生ボットの場合は、画像はstable-diffusionで作り、RAG用20000字の文章は、目次を作りのcopilotに章ごとの内容を作ってもらいました。しかし、非力なPC(GPUなし)でも対応できるようにしなければ、簡単に応用できますとは言えなかったことに気が付きました。すみませんでした。
そこで今回は、AI担当者画像とuser画像(256×256サイズ)をGPUのないPCでも作れる画像生成アプリ「iconAI」とRAG資料(10000,20000,40000文字を選択可能)をWEB情報などから自動で収集し論文形式で出力するagentみたいなアプリ「WEBbaseAI」を開発しました。AI担当とuserの画像+RAG用論文があれば非力なPC環境でも専用チャットボットを自炊できるようになるはずです。
まず、画像生成アプリの説明をします。Stable-diffusionが有名ですがこのGUIアプリAutomatic1111はGPUがあることが前提になっています。また、stable-diffusionはcpuでも動かせますがモデルの容量が3GBを超えます。今回は「bk-sdm-tiny」という軽量モデル(1.5GB)を使います。軽量モデルの入手コードを以下に示します。
軽量な画像生成アプリ「iconAI」の概要は、プロンプト(posi/nega：negaは黒画面生成を防止)入力BOX、画像サイズ(256×256：デフォルト)指定、デバイス選択(cuda/ cpu：ノートPCデモ動作できるcpuモード)、保存ファイル名入力、ロゴテキスト入力ロゴサイズ入力が可能です。
そもそも「iconAI」は名前のとおりアプリのアイコンを作る目的で開発したものです。ロゴを入力できる機能がありますが、ロゴを入力しなければ単なる画像生成アプリです。
別な機会に、コードなど詳細を説明しますが、アイコンを作るためロゴが入力できます。ロゴの表示位置は下半分のセンターです。ロゴサイズは文字数に合わせてサイズを決めてください。アイコンとして使用する場合は、拡張子を.png→.icoに変更してください。画像生成後、保存ファイル名を入力して保存ボタンを押すとカレントフォルダに画像ファイルが保存されます。GPU(cudaを選択)があるPCでは、数秒で生成完了しますが、ノートPCの場合は1分近くかかります。
「iconAI」を使えば、AI担当者とユーザー画像をノートPC(DRAM16GB以上を推奨)で自炊できます。
その2 RAGデータ向け論文生成AIアプリ
次は、専用チャットボットを構成するRAGデータの生成サポートアプリ「WEBbaseAI」を説明します。LLMを使って文章を生成することは一般的で広く利用されています。ローカルモデルでそこそこ賢い「gemma3:12b」を使って、“法事と仏事”をテーマにした論文を生成するコードを示しました。目次はプロンプトで与え、各章ごとに出力形式などの詳細にプロンプトをLLMに渡します。
LLMが生成した論文は、11434文字でした。以下に抜粋した内容を示します。はじめにで論文全体に何が書いてあるのかを説明しています。そのあとで各章の詳細が記述されています。
第3章を抜粋してみました、宗派ごとの用語や儀式の説明がされています。
テストプログラムで、10000文字程度の論文が数分くらいで論文が生成できました。しかし、gemma3:12bの持ちネタの中だけの回答のようにも思えます。WEB検索を積極的の行うことと各章のタイトルを考えなくてはならず、まだめんどくさいです。論文のタイトルと文字数*と概要補足を与えるだけで勝手にWEB検索しながら論文を仕立てる機能が欲しいと思いCopilotに相談しながらお手軽なアプリ「WEBbaseAI」を作りました。
*論文の文字数ですが40000文字まで指定できます。A4で50ページ分くらいです。学位論文は図表を入れて100ページくらいですから、そこそこの専門的な知識に仕立てることができそうです。以下に「WEBbaseAI」のGUI画面を示します。
最初の「pdfファイル選択」ですがブラウズして初期設定(定義や構成など)したい文書をpdf形式にしたものを読み込ませます。特になければ、以下のpdfを読み込ませてください。テーマはチャットボットの専門性を高める内容（デフォルトで仏事と法事が入っていますが）に書き直します。出力ファイル名を入力し、文字数を指定(10000,20000,40000から選べますがきっちり指定サイズになるわけではありません)、最後に論文生成ボタンを押します。20000文字を選択しました。RTX506016GBを使って30分かかりました。辛抱強く待つ必要があります。
「花火の歴史」をテーマに、“WEB情報を参考にしてください.pdf”を使った場合に生成された論文の第1章から抜粋した内容を示しました。参考にしたWEB情報元をリストアップしてくれています。（社内資料という架空の参考も入っていますが）
その3 専用チャットボット例
AI画像、User画像と専用RAGデータを使ったチャットボットの例を示します。まず
「iconAI」を使い、坊さんの画像と檀家の画像を生成しました。「WEBbaseAI」を使って「法事と仏事_論文.pdf」を読み込ませました。以下に「法事と仏事の専用チャットボット」のGUIを示しました。見かけは「dogAI」に同じです。
専用RAGデータとAIとUserの会話ログを示します。
AI画像、User画像と専用RAGデータを使ったチャットボットの2例目です。まず
「iconAI」を使い、打ち上げ花火の画像と線香花火の画像を生成しました。「WEBbaseAI」を使って「花火論文生成結果.pdf」を読み込ませました。以下に示します。
専用RAGデータとAIとUserの会話ログを示します。
AI画像、User画像と専用RAGデータを使ったチャットボットの3例目です。まず
「iconAI」を使い、観葉植物先生画像と観葉植物の鉢画像を生成しました。「WEBbaseAI」を使って「観葉植物の種類と育て方.pdf」を読み込ませました。以下に示します。
専用RAGデータとAIとUserの会話ログを示します。
専用チャットボットを作るために、3つの生成AIアプリを開発し組み合わせました。まずチャットボット本体(dogAI)はLLMの応用です。次は軽量なAI画像とUser画像生成AIアプリ(iconAI)です。最後にチャットボットをカスタマイズするためのRAG生成アプリ(WEBbaseAI)を使います。これら3つのアプリは非力なノートPCでもなんとか動かすことができるように工夫しました。応用例には含めませんでしたが、業務データや個人データをRAGデータに統合することで完全にカスタマイズもできると思います。
GUIで少しぼろが出た(dogAIを引きずっている)ところもありましたが、専用チャットボットは、これらのアプリを使うと自炊できるのではないかと思います。
観葉植物専用チャットボットはVLMを使うべきかもしれません。写真を見せると観葉植物の種類と健康状態を判断して、観葉植物先生と会話を始めるような流れが自然なのかも知れません。今後の検討内容ですね。
