Initial commit: AI Video Assistant fullstack platform.

Add pipecat-based backend with WebRTC/WS voice routes, Next.js frontend, and Docker Compose orchestration.

Co-authored-by: Cursor <cursoragent@cursor.com>

backend/services/pipecat/pipeline.py

@@ -0,0 +1,67 @@
+"""管线核心:给定一个 transport + 配置,跑完整的语音闭环。
+
+关键设计:**transport 由调用方传入**,管线本身不关心是 WebRTC 还是 WS。
+这就是"同时支持多种输出"的落点——加输出方式不用动这里。
+
+对应 dograh 的 pipeline_builder.py + run_pipeline.py(已砍掉 workflow 引擎/DB/录音/指标)。
+"""
+
+from loguru import logger
+from models import AssistantConfig
+from services.pipecat.service_factory import create_services
+
+from pipecat.frames.frames import EndFrame, TTSSpeakFrame
+from pipecat.pipeline.pipeline import Pipeline
+from pipecat.pipeline.runner import PipelineRunner
+from pipecat.pipeline.task import PipelineParams, PipelineTask
+from pipecat.processors.aggregators.openai_llm_context import OpenAILLMContext
+
+
+async def run_pipeline(transport, cfg: AssistantConfig) -> None:
+    """在给定 transport 上构建并运行管线,直到连接结束。
+
+    Args:
+        transport: 任意 pipecat transport(WebRTC / WS / 电话…),
+                   只要有 .input() / .output() / event_handler 即可。
+        cfg:       助手配置(随请求内联传入)。
+    """
+    logger.info(f"启动管线: assistant={cfg.name} mode={cfg.runtimeMode}")
+
+    stt, llm, tts = create_services(cfg)
+
+    context = OpenAILLMContext(messages=[{"role": "system", "content": cfg.prompt}])
+    context_aggregator = llm.create_context_aggregator(context)
+
+    pipeline = Pipeline(
+        [
+            transport.input(),
+            stt,
+            context_aggregator.user(),
+            llm,
+            tts,
+            transport.output(),
+            context_aggregator.assistant(),
+        ]
+    )
+
+    task = PipelineTask(
+        pipeline,
+        params=PipelineParams(
+            allow_interruptions=cfg.enableInterrupt,
+            enable_metrics=False,
+        ),
+    )
+
+    @transport.event_handler("on_client_connected")
+    async def on_client_connected(_transport, _client):
+        if cfg.greeting:
+            await task.queue_frame(TTSSpeakFrame(cfg.greeting))
+
+    @transport.event_handler("on_client_disconnected")
+    async def on_client_disconnected(_transport, _client):
+        logger.info("对端断开,结束管线")
+        await task.queue_frame(EndFrame())
+
+    runner = PipelineRunner(handle_sigint=False)
+    await runner.run(task)
+    logger.info("管线已结束")

backend/services/pipecat/service_factory.py

@@ -0,0 +1,53 @@
+"""创建 STT / LLM / TTS 服务。
+
+对应 dograh 的 service_factory.py,但只留一套国产栈(OpenAI 兼容),
+按 provider 扩展时在这里加分支即可——这是未来接更多模型的唯一入口。
+"""
+
+import config
+from loguru import logger
+from models import AssistantConfig
+
+from pipecat.services.openai.llm import OpenAILLMService
+from pipecat.services.openai.stt import OpenAISTTService
+from pipecat.services.openai.tts import OpenAITTSService
+
+
+def create_stt(cfg: AssistantConfig):
+    """SenseVoice / FunASR 等,走 OpenAI 兼容的 /v1/audio/transcriptions。
+
+    连接信息优先用 cfg(由 config_resolver 从 DB 注入),为空回退 .env 默认。
+    """
+    return OpenAISTTService(
+        api_key=cfg.stt_api_key or config.STT_API_KEY,
+        base_url=cfg.stt_base_url or config.STT_BASE_URL,
+        model=cfg.asr or config.STT_MODEL,
+    )
+
+
+def create_llm(cfg: AssistantConfig):
+    """DeepSeek 等,走 OpenAI 兼容的 /v1/chat/completions。"""
+    return OpenAILLMService(
+        api_key=cfg.llm_api_key or config.LLM_API_KEY,
+        base_url=cfg.llm_base_url or config.LLM_BASE_URL,
+        model=cfg.model or config.LLM_MODEL,
+    )
+
+
+def create_tts(cfg: AssistantConfig):
+    """CosyVoice 等,走 OpenAI 兼容的 /v1/audio/speech。"""
+    return OpenAITTSService(
+        api_key=cfg.tts_api_key or config.TTS_API_KEY,
+        base_url=cfg.tts_base_url or config.TTS_BASE_URL,
+        model=config.TTS_MODEL,
+        voice=cfg.voice or config.TTS_VOICE,
+    )
+
+
+def create_services(cfg: AssistantConfig):
+    logger.info(
+        f"创建服务: stt={cfg.asr or config.STT_MODEL} "
+        f"llm={cfg.model or config.LLM_MODEL} "
+        f"tts={cfg.voice or config.TTS_VOICE}"
+    )
+    return create_stt(cfg), create_llm(cfg), create_tts(cfg)

backend/services/pipecat/transports.py

@@ -0,0 +1,54 @@
+"""Transport 工厂——管线与"输出方式"解耦的关键。
+
+同一条 STT→LLM→TTS 管线,可以挂在不同 transport 上:
+  - WebRTC:浏览器,低延迟,带 NAT 穿透           -> build_webrtc_transport
+  - WS:    裸音频流,服务端/话务/自定义客户端,简单 -> build_ws_transport
+
+未来加电话(Twilio/Vonage)只是再加一个 build_xxx_transport + 对应 serializer。
+对应 dograh 的 transport_setup.py(WebRTC)+ 各 telephony provider 的 transport.py(WS)。
+"""
+
+from fastapi import WebSocket
+
+from pipecat.transports.base_transport import TransportParams
+from pipecat.audio.vad.silero import SileroVADAnalyzer
+
+# WebRTC
+from pipecat.transports.smallwebrtc.connection import SmallWebRTCConnection
+from pipecat.transports.smallwebrtc.transport import SmallWebRTCTransport
+
+# 裸 WS 音频流
+from pipecat.transports.network.fastapi_websocket import (
+    FastAPIWebsocketTransport,
+    FastAPIWebsocketParams,
+)
+from pipecat.serializers.protobuf import ProtobufFrameSerializer
+
+
+def _base_params() -> dict:
+    """两种 transport 共享的音频参数。"""
+    return dict(
+        audio_in_enabled=True,
+        audio_out_enabled=True,
+        vad_analyzer=SileroVADAnalyzer(),  # 本地 VAD,打断功能依赖它
+    )
+
+
+def build_webrtc_transport(connection: SmallWebRTCConnection) -> SmallWebRTCTransport:
+    return SmallWebRTCTransport(
+        webrtc_connection=connection,
+        params=TransportParams(**_base_params()),
+    )
+
+
+def build_ws_transport(websocket: WebSocket) -> FastAPIWebsocketTransport:
+    """裸 WS 输出。序列化用 protobuf(自定义客户端用同款解码);
+    若对接电话商,把 serializer 换成对应的 TwilioFrameSerializer 等即可。
+    """
+    return FastAPIWebsocketTransport(
+        websocket=websocket,
+        params=FastAPIWebsocketParams(
+            serializer=ProtobufFrameSerializer(),
+            **_base_params(),
+        ),
+    )