ローカルLLMが熱い
2026.07.30
こんにちは。
最近はChatGPTやGeminiなど、生成AIが本当に身近になりました。
私も普段から使っていますが、個人開発に使おうと思うと一つ気になることがあります。
API料金です。
少し試す程度なら気になりませんが、何度もAIとやり取りするアプリを作るとなると、利用回数に応じてコストが積み重なります。
そう思って目を向けたのがローカルLLMでした。
以前のローカルLLMは、「重い」「精度が低い」「実験用」というイメージを持っていました。
しかし最近は小型モデルでも性能が大きく向上しており、PC上でも普通に動くものが増えてきました。
その中で今回は Gemma 4 4B(gemma4:e4b) を使って試してみました。
普通に会話をする分には全く問題ないですし、画像の認識もできるモデルになっています。
もちろん、最新のクラウドLLMと比べると複雑な推論や専門的な質問では差を感じますが、ちょっとしたアプリを作るには十分すぎる性能です。
これがノートPC上で動くというのはとても熱いです。(ちなみに私の個人PCはApple Sillicon Macです。)
せっかくなので、Gemma 4を使って英会話アプリを作ってみました。

ChatGPTの無料版でも音声会話はできますが利用時間に制限があるので、これでガンガン使えるようになりました🙌
さすがに使い心地の良さには差がありますが、料金を気にせず使えるという点ではとても満足しています。
今後もローカルLLMの進化に期待です…!
