140文字以上

140文字では伝わらないことを書いています。禁無断転載

twitter(@chromarock), github, bluesky, Mastodon(japanet), misskey, ほしいものリスト, 本人証明, その他プロフィール

生成AI向けに最低限な自作PC構成を考えてみた

GWということでこの時期新しいPCを検討する人も多いんじゃないかなと思います。
ということで、巷で話題の生成AIについてちょっと触ってみたいなぁという人向けにローカル環境(自宅PC環境)用のPC構成をちょっと考えてみました。

以下は主に自作PCでの構成について書いていますが、そもそも自作PC初めてという人にはちょっとおすすめしづらいです。
本当に自作PCが初めてな人は、それこそD○SパラとかPC量販店の店員さんに聞いてみる、似たようなBTOを探してみるというのがベストですが、その際は予算も添えると良いかなと。
自分が許容できる予算を伝えるのは大事です。

また、PC持っていなくて「ちょっと生成AI試したいなぁ」という人はいきなりPC組んだり買ったりせずにまずにChatGPTやBingを触ってみる、絵の生成ならとりあえず「NovelAI」(有料ですが)を触れてみて何ができそうかを様子を見て、ローカル環境でもバリバリ続けられそうならそのときに改めてPCを考えてみる…というのが賢いのかなぁと。

あとローカルLLM環境(ローカルでchatgptなどの文章生成AIを動かす環境)については書いていません。
これには理由があってローカルLLMでの実用環境はそこそこなスペック…それこそVRAMが最低64GB以上と大量なVRAMが必要なため、コンシューマではビデオカード2枚差し以上が必要だったり、若干動作が遅くなるもののMacStudio(ユニファイドメモリ96GB以上の奴)じゃないとVRAM確保が難しいとかありハードウェア要件が厳しいのと、あとはインストール関連も難しいためです。
(今後この辺りが整備されていって動かしやすくなるとは思いますが…)

ということで、これからは画像生成AIでの話となります。

構成

画像生成と学習(LoRA学習)が苦もなく出来るという感じの構成です。
2024/5/1現在での値段を調べて構成を練ってみました。

パーツ 名称 お値段 メモ
CPU Intel Core i5 12400F BOX 20,980 生成も学習もCPUパワーそんなに必要なし
空冷CPUファン AK400 R-AK400-BKNNMN-G-1 2,873 よく冷えてコスパ最強のド定番。i5ならこれで充分
MB Asrock B760M-HDV/M.2 D4 12,500 DDR4使えて本当に安い
メモリ(DDR4) TEAM TED464G3200C22DC01 DDR4 32GB 2枚組セット(=64GB) 16,480 メモリだけは多めに積んだほうがいい
グラボ RTX 4060 TI 16GB (各社) 68,800 今からするのなら最低限16GBあったほうがいい
電源 玄人志向 750w KRPW-GK750W/90+ 9,980 やや過剰だけど安くてプラグイン式ならこれしかない
ケース 各社 5,000 これはなんでもいいけどMBが入るミドルタワーがいいと思う
MVNE.M2 SSD P41 Plus SSDPFKNU010TZX1 1TB 9,960 OS用。資金に余裕なければPCIe3のでもいいと思う
SATAストレージ Westan digital WD40EZAX HDD 4TB 11,220 データ用。4TBはあったほうがいい
OS Ubuntu 22.04 or 24.04 0 ここがWindows11 Homeなら+15,182。Ubuntuならゼロ円
CPUグリス OC Master 1g SMZ-01R-01 715 ほどほどに伸び、使いやすい。定番

OSなしで計算すると¥158,508で、Windows11 Homeで運用すると考えると+15,182で¥173,690ですね。

画像生成AIの場合はCPUパワーはあまり必要なくてほとんどグラボ(GPU)で計算が行われるため12世代のi5クラスで全く問題ないです。
更に言うとPCIeの通信もモデルのロード時に大量に通信が発生する程度なので、モデルを頻繁に切り替えるとかじゃない限りはPCIeの帯域もそこまで重要ではなかったりします。

VRAMの容量はAI系にとって特に重要で出来ることとできないことが明確に別れてしまいます。
画像生成系の場合はSD1.5からSDXLが主流になっておりモデルの容量も増えています。12GBでは厳しい場面も出始めているので今後のことを考えて16GBあったほうがいいです。
正直言うとSDXLでも画像を生成をする「だけ」なら12GBや8GBでもできたりはするのですが、fp8にしないといけないとか設定をしないとメモリが溢れてものすごい遅くなったり動かなかったりします。
また生成だけではなく画像のAI学習(LoRA)になってくると、こちらも設定次第で12GBでもできなくはないのですがやはりfp8にしないといけなかったり、設定を盛ってしまうと動かないとか、したいことができないパターンがあったりします。

ということで、生成するだけであっても無用のトラブルを避ける上でもできるだけVRAMの容量はあったほうが良いということになります。
というより生成だけして学習まで手を伸ばさないことは多分無いと思うのでその点においてもVRAMの容量は最低16GBはあったほうがいいですね。

16GB積んでいて一番安いGPU…となると自ずとRTX 4060 Ti 16GBしかなくて4060系列はゲーム系は正直微妙なのですが生成AI系では優先度が帯域<VRAM容量となってしまうので4060Ti(16GB)が良いということになります。
欲をいえば4070TiSuperが生成速度も早くコスパも最強なのですが、こちらは13万ということで1.8倍はするのでお財布と要相談となります。
(出来ることは4060Ti16GBと同じなので個人的には生成AIのみを考えると微妙かなと…)

これは余談ですが画像生成系の場合は言語生成(LLM)とは異なり、2枚のグラボを重ねて強くするみたいなこともできないので、個人で手に入りやすく強いGPUとなるとRTX4090以外にナシいうことになります。

構成例では「自分が考える最低限」ということでストレージはSSD 1TB+HDD4TB構成で考えていますが、HDDにモデルを置くのはさすがにちょっとロードが遅くなるので、ここから追加でSSDを購入というものありかなと思います。
MVNEとSATAは値段ほとんど変わらなくなってしまったのでMVNEスロットが余っているのならばMVNEなSSDを買ったほうがいいですね。

MB(マザーボード)はAsrockのB760M-HDVでメモリはDDR4にしています。
DDR5の値段はこなれたとはいえ、まだまだDDR4のほうが安いのと生成AIの場合はメインメモリの容量もそれなりに必要というのがあります。
B760M-HDVは安いのですがフェーズコントローラは本当に最低限で、周りにヒートシンクがついていないのでこの辺りが心配ならもう少しグレードを上げてもいいかなと
(けどさほどCPU酷使しないのでこれでも問題はなさそうですし、安いBTOの場合はこれと似たようなMBだとは思います)
フェーズ数が少ないのでオーバークロック周りには本当に向いていません。あくまで定格動作です。
Kがついた良いCPUを使うのならもうちょっとマザーボードにお金を掛けたほうがいいでしょうということで…

CPUファンはリテールでもいいといえばいいのですが、3,000円さえ払えばAK-400という大変良いファンが手に入るのでここは3,000円払ったほうがいいのかなと
電源についても同じで、電源はトコトンケチれますが(BTOだとよくケチってあります)…ケチると後々痛い目を見る部分でもあるので、よくわからなければ一応Goldを通っていてプラグイン式なこれが扱いやすくていいのかなという感じです

AMD系の構成は自分はAMDで組んだことがないので正直わかりませんが、似たような値段になるかなぁと思います。
ただAMD構成はAM5にするとDDR5しかないですが将来性を考慮でき長く使えます。
なお今回のはソケットがLGA1700なため将来性はあまり無いという話にはなります(とはいえCPUをi7にしたり、GPUを4070Tisにしたりとかアップグレードはできますし、CPUの進化も鈍化しているので全とっかえの必要は薄く適時GPUを入れ替えていって、5年位は持ちそうかなぁと…)

OSについてですが、Ubuntuでも生成AIは動きます…というか実はAI系開発はLinuxがよく使われていたりします。
また、ubuntu(Linux環境)のほうが同じ環境であっても生成も学習も速いらしいです(自分はWindows環境で生成と学習をしたことがないのでこの辺りは色々見た限りの話ですが…)。
OS自身が消費するVRAM消費もUbuntu環境のほうが若干少ない&メモリ消費も少ないというのもあります。

ということでこれを期にUbuntuを入れてみるというのも一興かと思います。
Linux初の人はUbuntuよりも使いやすいとされている「Linux Mint」や「MX Linux」が一応あるにはあるのですが、NvidiaのドライバはUbuntu環境での対応が手厚いので素のUbuntu(もしくはUbuntuフレーバ)がトラブルなくて良いかもしれません。

画像生成AIのソフトはそのままstable-diffusion-webuiやComfyUIを入れてもいいわけですが、初めての場合はWindows環境でもLinux環境でも同じように動く「StabilityMatrix」がおすすめかなぁと
コレ自体が画像生成AIソフトというわけではなく、ここからさらにstable-diffusion-webuiやComfyUIを動かすみたいなランチャーアプリのようなものです
こちらは勝手に環境構築までやってくれるので初めての人にはピッタリだったりします。
https://github.com/LykosAI/StabilityMatrix

共有する 共有用にコピー