PC構成AI(ローカルllm)を中心に考えているのだけど悩み中。
電源容量のことを考えると5090のデスクトップ版は無理
| PC構成 | |
| 5090laptop | メモリ容量が不安。学習の時にメモリ不足になる可能性がある。 |
| DGX spark + 安めのPC | 速度が不安。メモリ帯域幅小さすぎない？ |
| 5090 laptop + DGX spark | 予算結構きつい。どちらか使わなくなりそう。 |
| DGX spark | 速度に問題なければ。windows環境が全くないのはきつい。 |
| 安めのPC＋ RTX pro 6000 Brackwell Q-maxを外付け | 速度、容量申し分ないけど、予算かかりすぎ。そもそも外付けで動くか怪しい。 |
| RTX pro 6000 Brackwell Q-max搭載ワークステーション | 速度、容量申し分ないけど、予算かかりすぎ。不必要に強力なCPUとか使って電源容量がやばそう。 |
| RTX pro 4500 Brackwell搭載ワークステーション | 5090laptopよりはましだがメモリ容量が不安。学習の時にメモリ不足になる可能性がある。後ワークステーションのため、電源容量が無駄に使われる恐れも。 |
| 5060ti 16GB デスクトップ | 現在の1080からの順当なアップグレード。 AI特にローカルllm本格的にやるには非力すぎだと思う。 |
| Mac m3 ultra | 速度や容量申し分ないけど、計算能力が小さく学習の性能（ファインチューニングなど）が不明。windows捨てるのはきつい。予算もきつい。 |
こんなこと考えて延々と悩んでる。
追記：RTX pro 4500 Brackwell搭載ワークステーションですかね。いつ出るのかわからないけど。DGX spark も欲しい気もする。
追記：RTX pro 4500 Brackwellの価格調べたら50万て5090と同じ。でPC価格になると70万ぐらい。正直5070のメモリ32GBにしただけみたいな性能にそれだけは出したくないなあ。