65歳、WindowsパソコンでローカルLLMを動かしてみた ――AIを「使う」から「仕組みを知る」へ

佐々木康仁

佐々木康仁

テーマ:Windows


最近、私はWindowsパソコンに「LM Studio」をインストールし、ローカルLLMをダウンロードして、自分のパソコンの中で生成AIを動かすことに挑戦しました。

「65歳になって、そこまでする必要があるの?」

そう思われる方もいるかもしれません。

私自身、今からプロのプログラマーやAIエンジニアになろうと思っているわけではありません。

では、なぜそこまでやるのか。

理由はとてもシンプルです。

「自分が使っているものの仕組みを、少しでも理解したい」

それが、今の私の学習の大きな目的だからです。

ChatGPTを使うだけでは分からなかったこと

私は普段、ChatGPTやGeminiなどの生成AIをさまざまな場面で活用しています。

質問を入力すると、数秒後には答えが返ってくる。

文章を作ったり、アイデアを考えたり、プログラミングについて教えてもらったり。

本当に便利な時代になりました。

しかし、使えば使うほど新しい疑問も出てきます。

「そもそも、このAIはどこで動いているのだろう?」
「LLMとは何なのだろう?」
「モデルを自分のパソコンで動かすとは、どういうことなのだろう?」


生成AIを便利な道具として使うだけなら、こうしたことを知らなくても困りません。

でも私は、もう一歩先へ進んでみたくなりました。

ローカルLLMを自分のパソコンで動かしてみる

そこで今回挑戦したのが「ローカルLLM」です。

LLMとは「Large Language Model(大規模言語モデル)」の略です。

普段利用している生成AIの多くは、インターネットを通じてクラウド上のAIを利用しています。

一方、ローカルLLMではAIモデルを自分のパソコンにダウンロードし、そのパソコンのCPUやGPU、メモリなどを使ってAIを動かすことができます。

そのために今回WindowsパソコンへインストールしたのがLM Studioです。


LM Studioでは、さまざまなAIモデルを探し、自分のパソコンへダウンロードして実際に動かすことができます。

インストールしてみると、たくさんのモデルが表示されました。

ここで新たな疑問が生まれます。

「どのモデルを選べばいいの?」
「7B、12B、27Bなどの数字は何?」
「自分のパソコンでは、どのくらいのモデルまで動くの?」
「メモリはどのくらい必要なの?」


一つのことを始めると、また次の「なぜ?」が出てきます。

でも、私はそれでいいと思っています。

「分かってから始める」ではなく「始めてから分かる」

以前の私は、何か新しいことを始めるとき、

「まず勉強して、理解してからやってみよう」

と考えることが多かったように思います。

しかし最近は少し考え方が変わりました。

まず、やってみる。
分からなければ、そのとき調べる。
失敗したら、なぜ失敗したのかを考える。
生成AIにも聞いてみる。
そして、もう一度やってみる。


その繰り返しです。

今回のLM Studioも、最初から仕組みをすべて理解してインストールしたわけではありません。

画面を見ながら、

「これは何だろう?」
「次はどこを押すんだろう?」
「なぜ動かないんだろう?」


と、一つずつ確認しながら進めています。

私が「65歳からのAIプログラミング学習」で大切にしている言葉があります。

“Learning by doing. Understanding comes later.”

「やりながら学ぶ。理解は後から。」


今回のローカルLLMへの挑戦も、まさにこの言葉どおりです。

65歳からプログラミングを学ぶ意味

生成AIがこれだけ進化すると、

「これからプログラミングを勉強する必要があるのだろうか?」

という疑問も出てきます。

実は私自身も、そう考えることがあります。

これからは生成AIに「こんなものを作って」と伝えれば、AIがプログラムを書いてくれる場面はますます増えていくでしょう。

それでも私は、プログラミングやコンピューターの仕組みを学ぶ意味はなくならないと考えています。

コードをすべて暗記する必要はなくても、

「このプログラムは何をしているのか」
「AIはどこで動いているのか」
「なぜパソコンの性能によって動かせるAIが違うのか」
「クラウドとローカルでは何が違うのか」


こうした基本的な仕組みを知っていれば、生成AIを単に「答えを出してくれる便利なもの」として使うだけではなく、自分で考えながら活用できるようになるのではないでしょうか。

「AIを使う人」から「AIの仕組みを理解して使う人」へ

今回、WindowsパソコンにLM Studioをインストールし、ローカルLLMをダウンロードしました。

まだ入り口に立ったばかりです。

これから実際にモデルを動かしながら、

モデルによって回答はどう違うのか。
パソコンのメモリはどのくらい使うのか。
クラウドの生成AIとは何が違うのか。
PythonなどのプログラムからローカルLLMを利用できるのか。
そして、自分で作ったアプリとローカルLLMを組み合わせることはできるのか。


一つずつ試してみたいと思っています。

私の目的は、AIエンジニアになることではありません。

「AIを使う人」から、少しずつ「AIの仕組みを理解して使う人」になること。

そして、自分が経験したことを、これから成長していく孫たちの世代にも伝えられるようになること。

そのための65歳からの学びです。

詳しい導入の経緯や実際の画面、これからの学習記録については、私が運営しているGoogleサイト「65歳からのAIプログラミング学習基地」にも随時記録していきます。

失敗も、分からなかったことも含めて記録する。

それもまた、私にとって大切な学習です。

今回のひとこと

“Learning by doing. Understanding comes later.”

「やりながら学ぶ。理解は後から。」

次回予告

次回は、「LM StudioでローカルLLMを実際に動かしてみた」として、ダウンロードしたモデルをWindowsパソコン上で動かし、実際にどのような回答が返ってくるのか、クラウド型の生成AIとの違いも含めて体験したことを紹介したいと思います。

■ 「65歳からのAIプログラミング学習基地」

■ すべてのコラムはこちら
https://mbp-japan.com/fukuoka/cncconsultingpro/service1/
■ 株式会社CNCコンサルティング 公式サイト
https://cncconsulting.pro/

\プロのサービスをここから予約・申込みできます/

佐々木康仁プロのサービスメニューを見る

リンクをコピーしました

Mybestpro Members

佐々木康仁
専門家

佐々木康仁(ITコンサルタント)

株式会社CNCコンサルティング

対面と非対面を組み合わせた独自のマーケティング手法、ChatGPTを活用するための基礎的な講習、小学校などでのICT教育支援を事業の柱とする。数々の職業を経験し“現場感覚”でサポートできるのが強み。

佐々木康仁プロは九州朝日放送が厳正なる審査をした登録専門家です

プロのおすすめするコラム

コラムテーマ

コラム一覧に戻る

プロのインタビューを読む

マーケティング、生成AI、ICT教育のコンサルを手掛けるプロ

  1. マイベストプロ TOP
  2. マイベストプロ福岡
  3. 福岡のビジネス
  4. 福岡のマーケティング
  5. 佐々木康仁
  6. コラム一覧
  7. 65歳、WindowsパソコンでローカルLLMを動かしてみた ――AIを「使う」から「仕組みを知る」へ

佐々木康仁プロへの仕事の相談・依頼

仕事の相談・依頼