AI Agent流式输出：一个字一个字显示，用户不等急

📘 教程 2026-07-17 约 2 分钟阅读

Agent思考要3秒，用户盯着空白页面等。流式输出让LLM边生成边显示，用户体验好很多。

💡 你将学到

Agent思考要3秒，用户盯着空白页面等。流式输出让LLM边生成边显示，用户体验好很多。

📜 目录

等待3秒=流失30%用户
流式输出原理
FastAPI实现
前端接收
效果
总结
相关文章

等待3秒=流失30%用户

数据说话：页面加载超过3秒，30%的用户会离开。Agent的响应也一样——用户看到一片空白，第一反应是刷新页面。

流式输出原理

LLM生成文本时是一个token一个token出来的。传统方式等全部生成完再返回，流式方式边生成边推送。

FastAPI实现

from fastapi.responses import StreamingResponse

def stream_agent(query):
    def generate():
        for chunk in agent.stream(query):
            yield f'data: {json.dumps({"text": chunk})}\n\n'
    return StreamingResponse(generate(), media_type='text/event-stream')

前端接收

const eventSource = new EventSource('/agent/chat?q=' + query);
eventSource.onmessage = (e) => {
    const data = JSON.parse(e.data);
    document.getElementById('output').textContent += data.text;
};