Pipecat Home Assistant


Bardzo ciekawy projekt Pipecat zaadaptowany przez naszego rodaka do Home Assistant jako aplikacja (dodatek) + custom component:

Co oferuje Pipecat Assist

  • rozmowy z asystentami speech-to-speech realtime, np. Gemini Live, OpenAI Realtime, AWS Nova Sonic,

  • własne pipeline’y głosowe składane z różnych usług cloud: STT + LLM + TTS,

  • integracje z Gemini, OpenAI, Soniox, Deepgram, Speechmatics, Cartesia, Gradium, ElevenLabs, Google Cloud TTS, AWS Bedrock, Ollama i endpointami OpenAI-compatible,

  • możliwość dodawania lokalnych narzędzi AI,

  • obsługę wielu serwerów MCP, w tym natywnego Home Assistant MCP,

  • web search jako krok pipeline,

  • pamięć sesji,

  • debug audio input/output,

  • edytor pipeline’ów i wizualny edytor Pipecat Flow,

  • dedykowaną kartę Lovelace z WebRTC, live transkrypcją i animacją audio,

  • integrację z klasycznym HA Assist jako Conversation / STT / TTS,

  • wsparcie dla AI Tasks / AI Actions tam, gdzie dana wersja HA je udostępnia.

Najważniejsza idea jest taka: Pipecat Assist nie jest kolejnym wrapperem na jednego dostawcę AI. To warstwa, która pozwala zbudować własnego asystenta z różnych klocków.

Możecie mieć prosty pipeline typu:

Gemini Live → Home Assistant MCP

albo bardziej składany:

Speechmatics STT → OpenAI Cloud LLM → ElevenLabs TTS → Home Assistant MCP

albo dodać do tego:

Session Memory → Web Search → Pipecat Flow → kilka serwerów MCP

1 polubienie

Testowałeś go? Bo ja zdążyłem tylko zainstalować i skonfigurować Gemini Live i coś nie do końca chce mi to ruszyć. Jakoś nie mogę znaleźć wolnej chwili żeby nad tym przysiąść…

Nie testowałem, nie mam presji na asystentów głosowych. Wystarcza mi, że przez MCP w HA mogę poczatować w Claude Desktop i agent zrobi/zdebuguje za mnie co tam potrzebuję w HAOS.

Ale sama perspektywa swobodnej rozmowy ze swoim HA jest kusząca, zwłaszcza w tak szerokim kontekście jaki już jest oferowany. Najbardziej kusi użycie AI do budowania automatyzacji w oparciu o analizę obrazów. Cóż, doba za krótka na te wszystkie nowinki…