rd@aw-inc.dev:~$ cat README.md
think about info-tech.
ミニ PC と小型ボードで組む自宅サーバーと、エッジ AI の実測記録。手元の機械で確かめた手順と数字を書いています。WordPress の投稿画面で技術的な内容をきれいに見せるプラグイン群「AW WP Plugin シリーズ」の開発元です。
$ ls -t ./posts
-
Hailo-10H で LLM を動かすと 1 token に何秒かかるか
ASUS UGen300(Hailo-10H)に 2B 級の LLM を 30 本の HEF に分けて載せた実測。同時に保てる HEF は …
-
GPD DUO を遠隔で寝かせて起こす。Modern Standby と Wake on LAN の実測
GPD DUO は S3 の無い Modern Standby 機。明示的に寝かせると SSH も落ちる。Wake on LAN は NIC…
-
Terrarium。1 bit の本体に INT4 の低ランク補正を足す共同学習と、知識が残ったかを判定する門
Dragon-Bonsai から改称した Terrarium の数値契約(1 bit + 群 1024 + rank 128 の INT4 …
-
MS-02 ULTRA を電源断から Wake on LAN で起こし、遠隔でスリープさせる
S5 からの Wake on LAN が 1 発で効き、48 秒で Windows、65 秒で WSL2 の SSH が戻る。無操作 5 時…
-
Bonsai 2 の符号は「回転して丸めた」ものだった。1 bit 化に重みの移植は要らない
公開されている 3 値モデル Bonsai 2 の metadata から回転の仕様を再現し、元モデル Qwen3.8 の重みを回して符号を…
-
刈った模型を 1 bit に戻す。素の丸めは 6,874 倍、学習済みの重みを貼れば 8.2 倍、出力を目標に 6 分学習して 1.6 倍
44 層に刈り込んだ 27B を再び 1 bit にする実験。元の重みを素の符号に丸めると perplexity は 6,874 倍に壊れ、…
-
27B を 18B に刈り込む。層の重要度で選ぶと 4,400 倍壊れ、perplexity で探すと 1.5 倍で済んだ
1 bit の 27B を NPU で速くするには重みを減らすしかない。64 層から 4 層ずつの組を落として 44 層にする探索で、層ごと…
-
1 bit の 27B を Qualcomm の NPU で 7.18 tok/s。Dragon-Bonsai 27B の到達点と、速度を決める 1 本の式
重みを 1 bit(1.125 bit/重み)にした 27B の言語モデルを、Qualcomm IQ-9075 の HTP 2 基に常駐させ…
-
AirBox のカーネル更新で失ったものと取り戻したもの。Wi-Fi、USB オーディオの電源、再起動をまたいだ検証
stock の SOPHON カーネルに移ると、Radxa が足していた Wi-Fi のドライバと、内蔵 USB オーディオの電源が消える。…
-
AirBox のカーネルの世代を進める。FIT の差し替え、Radxa 独自 DTB の移植、SPI flash には触らない
SOPHON の SDK v24.04.01 の BSP で、Radxa Fogwise AirBox のカーネルを 5.4.217 の新し…
$ ls ./aw-wp-plugin-series
WordPress の投稿画面で、端末、コード、Markdown、数式、見本の切り替え、問い合わせフォームをきれいに見せるプラグイン群です。6 製品は同じ作りで、同時に有効化しても互いに干渉しません。