ローカルLLMでマルチGPUをするなら高速PCIe帯域が必要と思われがちだが、実はそんなことない。 動かすだけなら、 4.0 x1 の複数接続でも大幅速度低下なく実行可能。 帯域が必要になるのは、tensor分割モードのtensorモードで同じ層を同時計算する場合のみで、これは帯域があればあるほど高速演算可能‼️ 分割モード layerであれば、帯域は問題なし！ つまり、マルチGPUで擬似VRAM合算してデカモデルで遊ぼう！

来世はちいかわになりたいな… 世界中で愛されたいんだ

Biggest ways working in big tech (instagram) has changed in practice in the last 12 months: - Nearly no handwritten code. i haven't written a single line by hand since March and have shipped features to 100 million+ users. - Human code review has become rare to non-existent. mainly because it's impossible to keep up. i predict in 2 years we'll look at python the way we look at assembly today. - Little time on roadmap prioritization. why choose the *best 5* of the 10 projects when you can test all 10 and 3 more you didn't think of before. - Meeting time has significantly reduced. the opportunity cost of useless meetings is way higher than before. curious if this matches what others are seeing. will share next what hasn't changed or got worse.

興味はある，いつかは…… と思っていたが，今のうちに買うか？

ここに来て使い手のポテンシャルが凄かった事実が追加されてエグい

Microsoftが「ゲーム内広告」の特許を出願した。 ボス戦後やロード画面など、ゲームエンジンが検出した「自然な区切り」でプレイを一時停止し広告を表示する。 視聴が終わると広告なしのプレイ時間が付与され、またゲームが始まる。 joho-todai.com/microsoft-pau… 7月のクラウドゲーミングテストはセッション開始「前」に広告を流す仕組みだったが、この特許はゲーム「中」に踏み込んでいる。 先行出願は2023年5月。