Android端末上でのHybrid LLM向け Physical AI Runtime OS の設計と実装ーDesign and Implementation of a Physical AI Runtime OS for Hybrid LLM Systems on Android Devices

Project Salieri AI に関する Technical Preprint v0.1。

本研究では、Large Language Model(LLM)をPhysical AIへ安全に統合するためのRuntime OSをAndroid端末上で設計・実装した。

提案Runtimeは、

- State
- Permission
- Affordance
- Decision
- Execution
- SafeState

を分離する多層アーキテクチャを採用している。

また、Cloud LLM と Local LLM を統合した Hybrid LLM Runtime を構成し、通信状態、計算負荷、温度状態に応じて実行系を動的に切り替える。

実装には Unity、OpenCV、VOICEVOX、llama.cpp を統合し、Android単体で動作するPhysical AI Runtimeとして実機構築を行った。

本研究は、低コストデバイス上で動作可能な実践的Physical AI Runtime Architecture の一例を提案するものである。

Project Repository:
https://github.com/hazama714/Project-Salieri-AI-Android-Runtime

---

Technical Preprint v0.1 for Project Salieri AI.

This work presents the design and implementation of a Runtime OS for safely integrating Large Language Models (LLMs) into Physical AI systems on Android devices.

The proposed runtime adopts a layered architecture separating:

- State
- Permission
- Affordance
- Decision
- Execution
- SafeState

The system also implements a Hybrid LLM Runtime integrating both Cloud LLMs and Local LLMs, dynamically switching execution paths according to communication status, computational load, and thermal conditions.

The implementation integrates Unity, OpenCV, VOICEVOX, and llama.cpp, and was constructed as a fully operational Physical AI Runtime running entirely on a standalone Android device.

This work proposes a practical example of a Physical AI Runtime Architecture capable of operating on low-cost consumer devices.

Project Repository:
https://github.com/hazama714/Project-Salieri-AI-Android-Runtime