RADXA社製Fogwise AirBox 32TOPS/INT8のEDGEサーバーが到着

現在は手元にあるRADXA社製で6TOPSのNPUを搭載しているRK3588機のお馴染みROCK 5Bと同じくRADXA社製のAI micro-serverという位置付けです。
関係ないのですが、同時期に発注した省スペース機で色々なエッジ端末用に次期バージョン開発検討中のPoE利用のROCK ZERO3Eは1TOPSのNPUを搭載したRK3566機でメタルケースがまだ販売されていないので、裸族状態です。

自分はRADXA社製のSBCへの信頼度は高く、非常に小型でPoEモジュールを組み合わせたrock pi Sをかなりの台数運用中で、とても安定稼働している。
LANケーブル1本で電源も取れるので都合が良く、PoE SW側で電源制御が可能な機種を選定すればPacemakerによるAct ./Stb.構成でもSTONITHによるfencingもOKです。

香港より5月20日出荷したとの連絡からようやく、本日、6月17日到着したFogwise AirBoxはSOPHON SG2300XというSoCを搭載している。
CPUは8 coreのArm Cortex -A 53(ARMv8) ２.３GHz駆動です。

NAND eMMC 64GBを搭載し非常にコンパクトに収まっている。
Cooling FANのノイズは高周波寄りですが、冷却性能はかなり高そうです。

eMMCにOSをインストールする前に電源を入れると、FANが機能しないので触れないくらい熱くなるので注意が必要。

なぜこの機種を検証するのかというと、Edge Computing性能と価格のバランスが良く、PyTorchやTensorFlow、ONNXといった一般的なフレームワークを利用可能であることが大きい。

並行してイスラエルのHailo 8やHailo 10HとRock 5BやRock 3Bと組み合わせるというプランも検討中

Hailo 8の製品はM.2の各Key向けの製品がラインナップされており、Fogwise AirBoxのM.2のM-Key、E-Keyを利用すると 24TOPS/INT8のNPUを追加で2基搭載可能と想定。
ただしM-Keyは2230のためNVMe SSDを利用する構成も検討中。

先日発表されたばかりのHailo 10Hでは帯域確保の関係上であるのかM-Keyのみのようですが、更に高性能な40TOPS/INT８NPUを拡張可能。

現時点ではHailo 8も10Hも入手できていないので、Edge用の高TOPS機の性能を確認してみようと言う計画です。

次回はこのFogwise AirBoxに諸々をインストールするところから始めてみようと思う。