Local LLMを中心に、AI技術系の投稿とネタ Tesla v100 32GB×2枚と共に生きる。 最近はQwenちゃん(27B)と遊んでいます アイコンは羊野郎さん@maton_3110

Pinned Tweet
完成!!!!! 僕のVRAM 64GB ヘッドレスAIマシンです!! マザボ:ASUS Z170-A CPU: intel core i7 6700k GPU: Nvidia v100 32GB + PG500-216 32GB RAM: corsair ddr4 3200mhz 32gb PSU: CGR GDN-850 SSD: Fanxiang S501 512GB 総額25万円弱でした なお、メモリは去年買ったので今この構成作るともっと高いかも。
ATX工業フレームマニュア
61
114
1,118
147,878
Ryu retweeted
地元のLmmでうごくqwen 27b やりますねぇ 杉山
そういえば、Qwen3.8 Flash Nextはwevdevベンチでは fabele 5の上の11位に居たりします。このサイズではかなり賢い!!!! ちなみにQwen3.8 27Bは25位です!!!! arena.ai/leaderboard/code/we…
1
1
277
DeepseekHaenessをスマホから使うためのSmart-DSHをアップデートしました! TailscaleでスマホとPCを繋げば使用できます。 【アップデート内容】 ・スマホ向けパネル操作改善 ・/btwバグ修整、マークダウン対応 ・/btwからのフォーク リポジトリ↓ github.com/hikarioyama/Smart…
4
15
1,400
PC98のゲームをWin11で実行する「PC98PLAYER」 i486.mods.jp/ichild/pc98play… 今日のClaudeくんの新作は「PC98のゲームソフトをWindowsマシンにコピーしてEXEをダブルクリックするだけで遊べる98エミュ」。 たぶん「推奨スペック PC-9801VX以降」のヤツが概ね動くはずです。
30
1,457
4,264
210,250
よし、ありがとう DeepSeek 4.1 flashが恒久的に60$になったので解約する理由がなくなりました。 さようなら。Command Code GOAT(まだつかってない)
Operation Cheepseek Phase 2: $60 of usage for DeepSeek v4.1 Flash is now permanent enjoy :)
9
20
227
22,011
Ryu retweeted
Operation Cheepseek Phase 2: $60 of usage for DeepSeek v4.1 Flash is now permanent enjoy :)
453
421
10,416
578,945
V100 アリエク価格で12万に値上がりなら RX9060XT 2枚刺しが勝てる可能性が微レ存 #地元のLLM
5
4
38
3,230
Ryu retweeted
P40のベンチ載せました #地元のLLM jimoto-no-llm.github.io/benc…
1
1
3
313
とっても主観で話すと 実務でも耐えられる精度で 並のエンジニアより 遥かに使えると思ってる
みんなごめん、ずっとQwen3.8 27Bに恋してたけど、 Flash Nextに浮気します。。。。。。。 みんな......ごめん、こいつかしこすぎ!!!!!!!!!
1
3
312
ありがとうX 前回から少し減ってしまってるけど、最近バズった分は換算されてないから次回が楽しみだな!
2
2
47
1,865
Ryu retweeted
グラボを増やしたら動作がカクカクになったけど,BIOSからPCIeのバージョンを2にしたら快適になった. ゲームもローカルLLMも問題ない. #地元のLLM
ローカルLLMでマルチGPUをするなら高速PCIe帯域が必要と思われがちだが、実はそんなことない。 動かすだけなら、 4.0 x1 の複数接続でも大幅速度低下なく実行可能。 帯域が必要になるのは、tensor分割モードのtensorモードで同じ層を同時計算する場合のみで、これは帯域があればあるほど高速演算可能‼️ 分割モード layerであれば、帯域は問題なし! つまり、マルチGPUで擬似VRAM合算してデカモデルで遊ぼう!
1
1
338
I still can't hide my surprise that a post about Abliterated got me 7.5k followers in two days. I'll keep making Abliterated models, so please stick with me. Everyone loves Abliterated models. I do too. People think degradation always comes with it, but you can keep that degradation small.
7
3
62
2,606
Ryu retweeted
Qwen3.8-flash-next is beating way bigger model while being way small in size 🤯
そういえば、Qwen3.8 Flash Nextはwevdevベンチでは fabele 5の上の11位に居たりします。このサイズではかなり賢い!!!! ちなみにQwen3.8 27Bは25位です!!!! arena.ai/leaderboard/code/we…
2
15
1,571
みんなごめん、ずっとQwen3.8 27Bに恋してたけど、 Flash Nextに浮気します。。。。。。。 みんな......ごめん、こいつかしこすぎ!!!!!!!!!
25
37
621
52,751
そういえば、Qwen3.8 Flash Nextはwevdevベンチでは fabele 5の上の11位に居たりします。このサイズではかなり賢い!!!! ちなみにQwen3.8 27Bは25位です!!!! arena.ai/leaderboard/code/we…
2
5
113
7,564
1か月どころか6日で2000人突破していて笑っちゃうんすよね
1ヶ月以内には鯖2000人を突破しそうな勢い それはそれとして、地元のLLMフリマはガチ作りたい もう少し鯖整備されてからになると思うけど、双方メリットある神アイデア→junさん
1
1
7
803
Ryu retweeted
Local LLM -V100+NVLink ついに試している人が現れた🤩 #地元のV100クラブ #地元のLLM
V100 x2がNVLink込みで認識まではきた。もはやちょっとしたミニタワーぐらいのスペースをとっている…
2
1
14
1,764
Ryu retweeted
Replying to @tamanekokoro
ごめん、あの自動翻訳が「local」を「地元」にしちゃったのが発端だ。おかげでコミュニティがこんなにほっこり盛り上がってるなら、誤訳も悪くないだろ?
5
22
1,767
🫱👩🫲
7
6
58
2,827
Ryu retweeted
Alphaxiv love
1
5
295
Ryu retweeted
昨日はお疲れさまでしたー 結局、残差ストリームしか記憶に残ってねえぞ😅 次はレシピの話を聞きたいっす。 ハードごとの最適化って何やってるの? @Hikari_07_jp @AM09_21 @_ryu15_ @studio_yebisu
地元のLLMの話をしているスペースが同時接続200人突破🙌 #地元のLLM
1
1
3
701