投稿者: robot_creation_root

chrome使用中固まる。その時edgeを起動すると治る。何かやってる？

デバッグ中にこれができるなら、こんなめんどくさいコードにしなくていいよね。みたいなのが出てきてかなりの書き換えが発生中。

今比較用のツールのようなもの作成中。

今プログラムの作成にAIを使用してはいるけど、
AIはひな型を作らせるにはいいけど細かな修正はまだあまりうまくないね。あとこれまでのコードを無視して自分流に書き換えようとするからそのあたりの扱いが大変。コード量的には7－8割は作ってくれるけど残りの２割は自分でやらないとという感じだな。０からコード書かせた場合、修正とかの相性もいいだろうからもっといけるのかもしれないけど。

ollamaを使えるようにしただけで選択肢が広がりすぎてどうまとめるか思案中。

なんか50シリーズにいろいろ対応してないのかな。とりえずローカルはollamaのみにしようと思う。

あと音声入出力とかもやりたいかな。

Hugginfaceのは各モデルによって環境がバラバラすぎて単純に組み込むのがむつかしそう。
phi4-multimodal単体で直接動かそうとしてうまくいかず、あきらめかけた時突然動いたから困る。
環境再現性が不明なのもまた困る。

5070TiになったことでローカルLLMを使えるようになったのでローカルLLMを使えるようにするためにolllamaやhiggingfaceのllmに対応作業中。

新しいPCが届いたので環境を移して確認中。
ローカルllmはVRAMに収まるサイズだととても快適。Ollamaをつかったが始める際も特につまるところはなかった。

画像生成はてこずっている。

さんざん悩んだ結果前書いたものの中にない5070Tiに決定。処理性能やメモリ帯域幅がそれなりにあり懸念点はVRAMぐらい。ファインチューニングなどでVRAMに満足できなくなったら、300Wというのが消費電力的に上位のやつと一致して交換しやすそうというのが決めて。
　前回検討していたシステムは100万超えるのもざらだったから、相当リーズナブル。そうれでも50万近いから購入ボタン押すときはめちゃくちゃ緊張した。

　

PC構成AI(ローカルllm)を中心に考えているのだけど悩み中。

電源容量のことを考えると5090のデスクトップ版は無理

PC構成
5090laptop	メモリ容量が不安。学習の時にメモリ不足になる可能性がある。
DGX spark　+ 安めのPC	速度が不安。メモリ帯域幅小さすぎない？
5090 laptop + DGX spark	予算結構きつい。どちらか使わなくなりそう。
DGX spark	速度に問題なければ。windows環境が全くないのはきつい。
安めのPC＋　RTX pro 6000 Brackwell Q-maxを外付け	速度、容量申し分ないけど、予算かかりすぎ。そもそも外付けで動くか怪しい。
RTX pro 6000 Brackwell Q-max搭載ワークステーション	速度、容量申し分ないけど、予算かかりすぎ。不必要に強力なCPUとか使って電源容量がやばそう。
RTX pro 4500 Brackwell搭載ワークステーション	5090laptopよりはましだがメモリ容量が不安。学習の時にメモリ不足になる可能性がある。後ワークステーションのため、電源容量が無駄に使われる恐れも。
5060ti 16GB　デスクトップ	現在の1080からの順当なアップグレード。 AI特にローカルllm本格的にやるには非力すぎだと思う。
Mac m3 ultra	速度や容量申し分ないけど、計算能力が小さく学習の性能（ファインチューニングなど）が不明。windows捨てるのはきつい。予算もきつい。

こんなこと考えて延々と悩んでる。

追記：RTX pro 4500 Brackwell搭載ワークステーションですかね。いつ出るのかわからないけど。DGX spark も欲しい気もする。

追記：RTX pro 4500 Brackwellの価格調べたら50万て5090と同じ。でPC価格になると70万ぐらい。正直5070のメモリ32GBにしただけみたいな性能にそれだけは出したくないなあ。