Atomic Echo Baseも買ったのだった

去年の年末、OpenAI Voice Assistantがプチブームになった。

　OpenAI Voice Assistantは、ESP32 S3が乗った基板にインストールして、リアルタイム通信でOpenAIのLLMと音声対話ができるという感じのもの。のちにWebRTC socket ioで再実装されて、さらに軽い通信になった。

GitHub - openai/openai-realtime-embedded-sdk: Instructions on how to use the Realtime API on Microcontrollers and Embedded Platforms

https://github.com/openai/openai-realtime-embedded-sdk

GitHub - batuhanerenler/JARVIS-OpenAI-Voice-Assistant: Jarvis is a voice-enabled chatbot powered by OpenAI's GPT-3.5-turbo. It leverages state-of-the-art natural language processing to deliver intelligent and conversational interactions.

https://github.com/batuhanerenler/JARVIS-OpenAI-Voice-Assistant

　開発しているOpenAIの中の人も、どうして急に日本で話題になっているのか理解できなくて混乱していたのが面白かった。GoのWebRTCライブラリPionの作者がOpenAIに転職したというネタがあらかじめ流布されていたのも関連しているのかも。

　Atomic Echo Baseは、そのときに、急遽製品化されたもの。さすがフットワークが軽い。

Atomic Echo Base

https://docs.m5stack.com/ja/atom/Atomic%20Echo%20Base

　当時は、S3でも、PSRAMが4Mでは動かなくて、8M乗っているモデルじゃないとダメだよという話があったけど、そこはcinimlさんによって制約ではなくなったみたい。

　OpenAI Embedded SDKをPSRAMなしで動かす

https://zenn.dev/ciniml/articles/openai_embedded_sdk

　また、使えるMEMSマイクや、Audioチップが結構限られるということで、どれが使えるかというのもなかなかの話題で、PCM5102a DACサウンドカードボードなんかもいくつか買ったりしているのだけど、開けてもいない。

　あとは、当初はAPI課金死するという話も話題だった。こちらも、2024年12月18日に発表されたOpenAI Realtime APIのアップデートで、音声関連のコストが60%以上削減されたことでだいぶ楽になったと聞いている。でも、結局話すたびに、これまでの経過を再度ロードするので、そのAPIコストで死ぬという設計問題は改善されずにダメなままになっている。

　やっぱり、相手にはローカルLLMを置いて、課金なしで使ってみたい気もする。GOROmanさんが、メモリモリモリのMBAでローカルLLMを動かして、そこと通信していたような気もするけど、あれの変更は公開されていないのかな。

　Atomic Echo Baseは買わなくてもいいかなと思っていたのだけど、LLMモジュールを買い足したついでで送料がもったいないので、Atomic Echo Baseも１つ買ってしまって手元にある。

　やろうと思って、AtomS3Rとか買ってあったことすら忘れていたので、Atomic Echo Baseも買ったことをすっかり忘れていた。

　イベントが企画されて、そのネタにOpenAI Voice Assistantが取り上げられることになったので、買ったことを思い出した。

　WebRTC Meetup Tokyo #29（懇親会あり） - connpass

https://webrtcmeetup.connpass.com/event/344723/