自学内容网 自学内容网

chatgpt的流式输出:event-stream,如何使用nginx转发event-stream数据

chatgpt的流式输出使用的是event-stream,如下图:

event-stream和websocket都是用于实现实时通信的技术,那么,两者有什么区别呢:

1、连接方式:event-stream 使用的是 HTTP 协议,并且保持连接始终打开,以便服务器可以随时发送更新的数据给客户端。而 WebSocket 是一种独立的协议,它通过一个特殊的握手过程建立一个全双工的、持久的连接。
2、数据格式:event-stream 使用简单的文本数据格式,每一行包含一个事件类型和数据。而 WebSocket 可以传输任何类型的数据,包括二进制数据,并且支持更多的控制帧和消息类型。
3、双向通信:event-stream 只允许服务器向客户端发送数据,而不能接收来自客户端的数据。而 WebSocket 支持双向通信,即服务器和客户端都可以发送数据给对方。
4、实现复杂性:event-stream 的实现相对简单,只需要在服务器端生成事件数据并在客户端订阅这些事件即可。而 WebSocket 的实现要复杂一些,需要处理握手过程、错误处理、心跳检测等。
5、跨域支持:event-stream 可以使用标准的 CORS 机制来支持跨域请求。而 WebSocket 也有自己的跨域机制,但需要在服务器端进行配置。
6、浏览器兼容性:event-stream 在所有现代浏览器中都得到了很好的支持。而 WebSocket 在较旧的浏览器中可能不被支持,需要使用 polyfill 或者回退到其他技术(如轮询)。


综上所述,event-stream 和 WebSocket 各有优缺点,适用于不同的应用场景。如果你只需要单向通信,并且不需要处理复杂的实时数据,那么 event-stream 可能是一个更好的选择。如果你需要双向通信或者处理大量实时数据,那么 WebSocket 可能更适合你。

如果想用nginx转发event-stream数据,需要在location中增加如下配置:

proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_set_header Host $host;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "Upgrade";
proxy_set_header X-Real_IP $remote_addr;
proxy_set_header X-Forwarded-For $remote_addr:$remote_port;

如下图所示:


原文地址:https://blog.csdn.net/zzm628/article/details/136342132

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!