エッジコンピューティング、マイコン、FPGA。Python,C,C++,HDL,MATLABなどで開発してます💻趣味でRaspberry Pi、自作PCローカルLLM、自宅サーバー、機械学習、ロボット、3Dプリンタ🔧 Zenn書籍ベストセラー、トレンド1位獲得🥇お仕事のご依頼はDM下さい📩
Amazonアソシエイト参加中
- Tweets 34,833
- Following 6,542
- Followers 15,993
- Likes 79,706
なんと、中国企業がNVIDIAに300万基のGPUを発注との情報📝
もうこの勢いだと値上がりどころではなくGPU自体が手にはいらなくなりそうですね💦
5080は特に予定してなかったけど、もし抽選とかあれば申し込もうかな⋯
あとAMDのGPUも検討しておいたほうが良いかも。大手はAMDに対しても発注するだろうけど。
【速報】🇺🇸 NVIDIA、中国IT大手3社から5.5兆円超のGPU受注か
・ByteDance、Alibaba、Tencentが計300万基超を発注と報道
・総額350億ドル超、製品はRTX PRO 5500
・NVIDIAは注文数の5〜10％しか供給できない可能性
10
1,202
SunFounderさんから新たなハードウェア、AI Fusion Lab Kitを提供頂きました✨️
AIアプリを開発するのに役立つパーツの詰め合わせ的なキットです。
これからレビューしていきます😄
5
362
新興メーカーCXMTのDRAM供給開始により多少値下がりすることに期待📝
4
412
5090の購入資金を回収できる人はほんとにすごいと思います👀
【RTX5090、買っておきべき？】
待ったなしの値上がりと、在庫減を受けて、RTX5090を今買っておかないと死！？
って考えてる人、一定数いると思います。
■買ったほうがいい人
・性能のよいGPUが必要な事情がつい最近、急に出てきた。
・AIやハード関連の情報を追っていなかった。が、最近のトレンドや研究について勉強し、RTX5090でできることが明確にイメージできた。
・ずっと必要があり、財務面だけが最後の課題だったが、必要な資金が最近ようやく工面できた。
・理由はともあれ、何となく話題になってて欲しくなり、120万円がお財布事情に与える影響が誤差の人。
■買わなくていい人
・昨年度末くらいから、なんかAI関連でメモリとかGPUがやばそう、って騒ぎを知っていた。
・TurboQuantとか、FreeTokenとか、Strata、とかAIやLLM関連の最適化に関連する言葉を聞いたことがあった。「ふーん」って思ってた。
・んで、ずっと欲しかったけど、そろそろ天井で、流石に誰も買わんくなって値下がりするかも。。との期待を、尽く打ち砕かれてきた。
今焦って買ってるのは、■買わなくていい人、の区分の人たちが、FOMOに耐えきれなくなって、決壊した結果にしか見えない😭FOMOだけで買う、ということは、
Q. なぜ買いました？
A. 値段が上がったからです。
ということ。買えるタイミングはいくらでもありましたからね。
特に半年とか１年以上、どうしようか悩んでた人たちは、GPUの活かし方を調べたり、学ぶことはないんだと思いますので、120万円出して買う価値はない！と割り切りましょう。
で、これは企業さんにも当てはまります。サイバーがやばいらしい！ってニュースで焦って社内でもLLMを！とか考えてる層は、結局活かせないのではないかな。
『FOMOで買うのはやめましょう』
#地元のLLM #RTX5090
4
415
ローカルLLM用のPCではGPUに予算をかけがちですが、CPUは比較的安価なモデルでも十分に活躍できます。
私が使用しているのはAMD Ryzen 5 7600。6コア12スレッド、TDP 65WのCPUで、現在は新品でも2万円台で購入できます。
このCPUの大きなメリットがAVX-512命令への対応です。
AVX-512は複数のデータをまとめて演算できるSIMD命令セットで、対応した処理の高速化に役立ちます。
私の環境ではRTX 5070 12GB＋RTX 5060 Ti 16GBのデュアルGPUでStrataを使用しています。
StrataはMoEモデルのexpertの一部をCPUでも処理するため、AVX-512に対応したCPUは有利です。
実際にStrataの公式資料でもRyzen 7000/9000シリーズのAVX-512対応が性能面で有利と説明されています。
GPUだけに注目せず、CPUの命令セットまで考えることで、比較的低コストでもバランスのよいローカルLLM環境を構築できます。
1
1
59
4,322
ファンにも取り付けられるモニタ！
これめちゃくちゃ気になってます。今のケースはスペースの余裕がないので・・・
JONSBO、ラジエーター搭載スペースに取り付け可能な10.36インチIPS液晶「DS360」
➡️ピラーレスケースと相性抜群。冷却ファンも重ねて搭載可能
gdm.or.jp/pressrelease/2026/…
2
506
もしクラウドのAIサービスが使えなくなったり、利用条件が変わったりしても、手元にモデルと環境があれば作業は続けられます。
自宅ではQwen3.8-Flash-Next GSQ-RCO IQ3_S（ファイル合計約84GB）を、Strata v0.2.0-betaで動かしています。構成はRTX 5070 12GB×1＋RTX 5060 Ti 16GB×1（計2枚）、RAM 64GBです。
モデルはただのファイルなので、手元に保管しておけます。実際、IQ3_SはしばらくHDDに退避していましたが、SSDに戻してそのまま使えています。ハードウェアが動く限り、一度手に入れた性能はそのまま手元に残ります。
コーディングも、小さなコマンドを作らせる課題なら、こちらの受け入れテスト19/19に合格するところまで任せられました（試行は1回）。
大きな課題でどこまで任せられるかはこれからですが、AIに手伝ってもらう作業を手元の環境だけで続けられる見通しは立ってきました。
15
777
RTX5080 24GBの争奪戦に拍車をかけそうですね😥
NVIDIA's RTX 6060 could slip to 2029, arriving months after high-end RTX 60 cards that are already reportedly pushed back to 2028. 🔗 wccf.tech/1leoi
3
392
DeepSeekが推論エンジンを公開📝
Ok this is interesting 😲
DeepSeek open-sourced DeepInfer, the inference engine behind their OWN production servers.
- Faster output with draft tokens
- Fast custom kernels.
- Skips repeated work on long prompts.
- Plans the next batch while the GPU is still busy.
- Same answer no matter what else is in the batch.
- Same input gives the same output every time.
For now, it can only be used on NVIDIA SM100 and Huawei Ascend 950. I'm now learning everything about it.
Link below.
8
723
社外に出せない資料を、手元のPCだけでAIに読ませられる。これはローカルLLMの大きな利点の一つです。
自宅ではRTX 5070 12GB×1＋RTX 5060 Ti 16GB×1（計2枚）、RAM 64GBのPCで、Strata v0.2.0-betaとQwen3.8-Flash-Next GSQ-RCO IQ3_Sを動かしています。
推論はこのPCの中で完結するので、入力した文章をクラウドのサービスに送る必要がありません。
しかも約1.4万tokensの資料なら、読み込みは486 tok/sで、計算上約29秒です。契約書や設計書、社内のログのように外部サービスへ貼り付けにくい文書でも、実用的な待ち時間で要約や質問ができます。送った文書が先方でどう扱われるかを気にしなくていいのも、気が楽なところです。
ただし、ハーネスや拡張機能がネットワークにつながる設定なら、そこから外に出る経路は残ります。どこまで閉じるかは使う側の設定しだいです。
1
31
1,954
自宅ではZimaBladeを、RAGとDBのサーバーとして常時動かしています。
中身はAtom E3950、メモリ16GB、SSD 128GBのファンレス機です。SQLiteとベクトル検索のsqlite-vecをAPI経由で使っていて、AVX2非対応のCPUでも動いています。
重い計算はGPUサーバーに任せ、ZimaBladeは保存と検索だけを担当します。GPUサーバーはRTX 5070 12GB×1＋RTX 5060 Ti 16GB×1（計2枚）、RAM 64GBで、StrataでQwen3.8-Flash-Nextを動かしています。埋め込みの計算もGPUサーバー側です。
分けたのは、GPUサーバーは検証でモデルや設定を頻繁に入れ替え、再起動やメモリ不足で止まることがあるからです。DBを別にすれば、GPUサーバーが止まってもデータは使え、片方の更新がもう一方を止めることもありません。LANやTailscale経由で、ほかの機器からも同じデータを使えます。
出典付きで答えるRAGの質問は、1回8〜9秒で返ってきます。ZimaBladeは小さく静かで、つけっぱなしにしやすいので、常時稼働のデータ置き場に向いています。
ZimaSpaceとRedditのr/minilabが「Self-Hosting Day 2026」を開催中です。セルフホスティング体験をr/minilabに投稿すれば参加でき、ZimaBoard 2やZimaBladeを含む200以上の賞品があります。投稿は10月25日まで、受賞者の発表は10月30日です。自宅サーバーの工夫がある方は、ぜひ応募してみてください。
🎉 Self-Hosting Day 2026 is officially live!
Self-hosting has grown into a vibrant community built around curiosity, independence, and the joy of running things your own way. So today, September 25, we want to celebrate that community with the first Self-Hosting Day.
Together with r/minilab, @AdGuard , @embyapp , @photoprism_app , @openclaw , @karakeep_app , and Blinko, we’re inviting the community to share your real self-hosting story.
You can share:
🏠 Your setup
🛠️ The apps you run
💡 What you’ve learned
📸 Photos, screenshots, experiments, mistakes, and everything in between
And yes, we’ve prepared 200+ prizes and licenses for the community, including ZimaBoard 2, ZimaBlade, ZimaOS Plus, AdGuard, Emby, and PhotoPrism prizes. 🎁
📅 Submit: Sep 25 – Oct 25
🏆 Winners announced: Oct 30
Let the party begin!👇
shop.zimaspace.com/pages/sel…
Your server has a story. We’d love to hear it.
#SelfHostingDay #SelfHosting #HomeServer #HomeLab #ZimaOS #NAS #SelfHostingDay2026
12
936
ローカルLLMの良いところは、一度手元で動かしたモデルの振る舞いが、自分で何かを変えない限り変わらないことです。
クラウドのAIサービスは、提供側の更新で応答の傾向が変わることがあります。手元のモデルなら、同じモデルファイルと同じ設定を使う限り、昨日と同じ条件で今日も使えます。モデルファイルを残しておけば、時間がたってから同じ条件で確かめ直すこともできます。
手元の構成はRTX 5070 12GB×1＋RTX 5060 Ti 16GB×1（計2枚）、RAM 64GB、Strata v0.2.0-beta＋Qwen3.8-Flash-Next GSQ-RCO IQ3_Sで、Decodeは65〜67 tok/sです。
逆に言えば、変わるのは自分が変えたときだけです。prefillのchunkを変えたときは、出力が以前の条件とビット単位では一致しなくなる、と推論エンジン側に書かれていました。
変える・変えないを自分で決められるので、業務で使う手順を固めたいときにも向いています。
1
8
945
DDR5が更に値上がりの可能性。
🚨 PC HARDWARE MARKET UPDATE 🚨
We just received another industry notice confirming DDR5 memory price increases of 10–15% effective this week.
Even existing open orders are being canceled by this specific vendor and must be resubmitted at higher pricing.
GPU shortages, rising RAM costs, and tightening allocations continue to impact PC pricing.
If you're planning a build, waiting may cost you more.
4
2
13
2,124
