ロボット作成日記

なんとなくAI光計算チップについて聞いたら１５年程度で今の計算機が、電気から光に置き換わると言ってきて驚いている。

もしその通りになったらと思うとわくわくが止まらない。

agent_node内でのデータのやり取りの仕様が少しずつ固まりつつある。

aiのprocess一つだけのの時、logが正常の保存されるようになった。次は条件分岐やif 文をどうするか

unslothを入れてみた。qwen3.8 27B の2qが利用できるのでやってみた。なんかLoRAができるみたいだからそのあたりも試したみたい。

GPUレンタルサーバーについて少し調べてた。

マルチエージェントとかもう少し大きなモデル動かしたいとき、新しいGPU買うより安く済むかなと。24時間動かしているわけでもないし。

新しいモデルでてきてるね。

metaのは、コードを示すマックアップの前にインデントが入ってしまうことがある。日本語が崩れることがあった。返答内容はかなり自分好み。

nvidiaの新しいの悪くない。ただし、最後の最後で日本語が少し崩れた。

出力速度はnvidiaのが１．５倍くらい早い

同じお題をgemma26B-A4bでやったらprocessが重すぎる。設定の違いのせいか？推論はnvidiaのやつと同じくらい出ている。再就役にはmetaのと同じくらい。

回答内容は三者三葉という感じ。

まだログ周りがうまくいっていない。少しずつは進んではいる。

ローカルAI編集させようとしたけど今の関数仕様ではうまくいかなかった。説明書きが悪いのか、load関数を先に呼び出すのが必須というのが分かりずらいのか。編集コマンドでファイル名を指定できるようにしたほうがいいかもしれない。

データベース周り挙動逆にしてた部分があった。なぜ動いていたのだろう。

vllmについて調べたりして、プログラムに集中できていない感じ。

あと今出ている不具合がまさに再生ボタンを実装して発生してほしかった問題。データベースをどう扱うかとかどういう挙動になるのとかなんとなくあいまいだった部分が不具合の発生によって、かかわりが具体化したおかげで仕様の検討が強制されてる感じ。

スレッドを個別に与えるべきかとか、GUIの更新どうしようとか、スレッドを個別に作る場合リフレッシュは？どう変数管理数するべきかとか、ぐるぐる考えてる。

ローカルAIパートナーとしてまずまずの性能を感じる。全体のコンセプトの情報がないため、頓珍漢な回答になることがあるけど、自分でやってたな何時間もかかるような問題の指摘を短時間でやってくれるので助かる。