以openai的gpt3.5为例的大模型流式输出实现(原始、Sanic、Flask)- 附免费的apikey水龙头
2024-10-9
| 2025-8-1
Words 447Read Time 2 min
type
Post
status
Published
date
Oct 9, 2024
slug
summary
针对大模型的流式输出,采用Sanic和Flask两种方式实现
tags
category
技术分享
icon
password
😀
前言: 为什么需要流式输出这里就不多言了,本文主要介绍几种框架的流式输出的实现代码
 

📝 原始

🤗 Sanic

🤗 Flask

📎 参考文章

如果需要gpt水龙头的(免费获得key),这里推荐两个我自己用的:
  1. https://faucet.openkey.cloud/
  1. https://github.com/chatanywhere/GPT_API_free
 
💡
有问题,欢迎您在底部评论区留言,一起交流~
Pycharm远程debug出现Couldn't apply path mapping to the remote file.解决方案和原理。Qanything 2.0源码解析系列5:问答接口中的检索逻辑(以图片为例)
Loading...