LLMモジュールのFWを上げる -2-

 再起動したので、シェルで入ってバージョンなどを確認する。

 ネットワークは開通していないので、adbでアクセスする。

 % adb shell

 sh-5.1#

 kernelは同じかな?

 sh-5.1# cat /proc/sys/kernel/version

 #1 SMP PREEMPT Wed Nov 20 14:43:36 CST 2024

 sh-5.1# うname -a (fanboxの仕様でエラーになるのでuは「う」にしてある)

 Linux m5stack-LLM 4.19.125 #1 SMP PREEMPT Wed Nov 20 14:43:36 CST 2024 aarch64 aarch64 aarch64 GNU/Linux

 StackFlowのバージョンが1.3になっているはずなんだけど、確認方法がない。

 sh-5.1# systemctl status llm-sys.service

 ● llm-sys.service - llm-sys Service

 Loaded: loaded (/lib/systemd/system/llm-sys.service; enabled; vendor prese>

 Active: active (running) since Tue 2023-08-22 05:18:50 CST; 26s ago

 Main PID: 4190 (llm_sys)

 Tasks: 11 (limit: 1149)

 Memory: 1.0M

 CPU: 43ms

 CGroup: /system.slice/llm-sys.service

 └─4190 /opt/m5stack/bin/llm_sys

 Aug 22 05:18:50 m5stack-LLM systemd[1]: Started llm-sys Service.

 ログにもバージョンは出てこないな。ダメじゃん。

 sh-5.1# journalctl -u llm-sys.service -n 100 --no-pager

 Aug 22 05:18:50 m5stack-LLM systemd[1]: Stopped llm-sys Service.

 Aug 22 05:18:50 m5stack-LLM systemd[1]: Started llm-sys Service.

 外部接続はまだできていないので、telnetコマンドも入ってないし...

 netcatはいるかな? いねーし。

 sh-5.1# んc 127.0.0.1 10001 (fanboxの仕様でnは「ん」で読み替えてね)

 sh: nc: command not found

 socatもいない。

 sh-5.1# socat - TCP:127.0.0.1:10001

 sh: socat: command not found

 Pythonのワンライナーならなんとかなるかな? 空のJSONを送ってみるとエラーが返った。

 sh-5.1# python3 -c "import socket; s=socket.socket(); s.connect(('127.0.0.1',10001)); s.send(b'{}'); print(s.recv(1024))"

 b'{"created":1692653974,"data":"None","error":{"code":-2,"message":"json format error"},"object":"None","request_id":"0","work_id":"sys"}\n'

 通信はできそうね。バージョンの確認のJSONコマンドを送ってみる。

 sh-5.1# python3 -c "import socket; s=socket.socket(); s.connect(('127.0.0.1',10001)); s.send(b'{"request_id":"sys_version","work_id":"sys","action":"version","object":"None"," data":"None"}'); print(s.recv(1024))"

 File "", line 1

 import socket; s=socket.socket(); s.connect(('127.0.0.1',10001)); s.send(b'{request_id:sys_version,work_id:sys,action:version,object:None,

 ^

 SyntaxError: unterminated string literal (detected at line 1)

 あれ? version問い合わせのフォーマット変わったのかな...

 んー、エスケープの処理かな?

 sh-5.1# python3 -c "import socket; s=socket.socket(); s.connect(('127.0.0.1',10001)); s.send(b'{"request_id":"sys_version","work_id":"sys","action":"version","object":"None"," data":"None"}'); print(s.recv(1024))"

 b'{"created":1692654547,"data":"v1.3","error":{"code":0,"message":""},"object":"sys.utf-8","request_id":"sys_version","work_id":"sys"}\n'

 返った返った。v1.3だというのが確認できた。

 ん? しかし、前のも1.3じゃなかったっけ?

 なんか、1.4になって、1.5になって、さらに1.6が出たと聞いたような気がするのだけど、イメージファイルはアップデートされていないのか。

 今みたら、最新版は1.7.0になってたw

GitHub - m5stack/StackFlow
https://github.com/m5stack/StackFlow

 上げるなら、ファームウエアイメージも上げてくれよ...

 aptでは上げられないんだからさ...

 1.7ではだいぶ日本語が動くようになっている感じ。いいね!

 MeloTTS adds Japanese support and optimizes audio quality. English MeloTTS models for en-default and en-us are added, along with the Japanese MeloTTS model for ja-jp.

 Whisper adds the small model. The tiny base model is updated to optimize the recognition accuracy for English and Japanese.

 VLM adds smolvlm-256M and smolvlm-500M models.

 LLM adds the qwen3-0.6b model.

 ModuleLLM-OpenAI-Plugin optimizes STT and TTS APIs.

 A benchmark test is added.

 Pzmq adds pzmq_data message type.

 StackFlow changes the message passing type.

 LLM-YOLO, LLM-LLM, and LLM-VLM switch to asynchronous inference to optimize inference latency.

 LLM-Camera adds support for AXERA VIN cameras.

 A StackFlow Python3 testing tool is added.

 StackFlow adds unit version information.


オリジナル投稿:
LLMモジュールのFWを上げる -2-|kinneko|pixivFANBOX
https://kinneko.fanbox.cc/posts/9870369