.h0<dZddlZddlZddlZddlZddlZddlmZmZm Z m Z m Z m Z ddl mZddlmZGddeZeGdd ZGd d Z d(d ededededededefdZej0d dfd ededededede e egdfdefdZedk(rdefdZeddd ZeeZdd d!gZed"ejAeejBe#Z"ed$e"ed%ejAeej0&Z"ed'e"yy))uZ OpenAI-like 模型访问标准调用模块 支持流式输出和完整输出两种模式 N)DictAnyOptional GeneratorAsyncGeneratorCallable) dataclass)EnumceZdZdZdZdZy) OutputModeu输出模式枚举streamcompleteN)__name__ __module__ __qualname____doc__STREAMCOMPLETE7C:\Users\win\Desktop\pyccd\funcs\utils\openai_client.pyr r s FHrr c^eZdZUdZeed<eed<dZeed<dZeed<dZ e ed <d Z e ed <y ) ModelConfigu 模型配置api_urlapi_key gpt-3.5-turbo model_name max_tokensffffff? temperature>@timeoutN) rrrrstr__annotations__rrintr!floatr#rrrrrs7 L L%J%JKGUrrc 8eZdZdZdefdZejddfdedede e de e e gdfd e f d Z ejddfdedede e de e e gdfd e f d Zdede d e fd Zdede de e e gdfd e fd Zdede d e fdZdede de e e gdfd e fdZy)OpenAILikeClientuOpenAI-like 模型客户端configc@||_d|jdd|_y)u\ 初始化客户端 Args: config: 模型配置 zBearer zapplication/json) Authorizationz Content-TypeN)r*rheaders)selfr*s r__init__zOpenAILikeClient.__init__&s& &v~~&67.  rNmessagesmoder#callbackreturnc|xs|jj}|tjk(r|j |||S|j ||S)u 聊天完成（同步版本） Args: messages: 消息列表 mode: 输出模式 timeout: 超时时间（秒），如果为None则使用配置中的默认值 callback: 流式输出时的回调函数 Returns: str: 完整的响应文本 Raises: TimeoutError: 请求超时 requests.RequestException: 请求异常 )r*r#r r_chat_stream_sync_chat_complete_syncr.r0r1r#r2s r chat_completezOpenAILikeClient.chat_complete3sN.0T[[00 :$$ $))(GXF F++Hg> >rcK|xs|jj}|tjk(r|j |||d{S|j ||d{S77w)u 聊天完成（异步版本） Args: messages: 消息列表 mode: 输出模式 timeout: 超时时间（秒），如果为None则使用配置中的默认值 callback: 流式输出时的回调函数 Returns: str: 完整的响应文本 Raises: asyncio.TimeoutError: 请求超时 aiohttp.ClientError: 请求异常 N)r*r#r r_chat_stream_async_chat_complete_asyncr7s rchat_complete_asyncz$OpenAILikeClient.chat_complete_asyncQsb.0T[[00 :$$ $007HMM M228WEE ENEs$AA)A%A) A'!A)'A)c&|jj||jj|jjdd} t j |jj |j||}|j|j}|ddddS#tjj$rtd|d tjj$r}t jd |d }~wwxYw) u完整输出（同步）Fmodelr0rr!r )r-jsonr#choicesrmessagecontentu请求超时 (秒)u请求异常: N)r*rrr!requestspostrr-raise_for_statusr@ exceptionsTimeout TimeoutErrorRequestException)r.r0r#payloadresponseresultes rr6z$OpenAILikeClient._chat_complete_syncos[[++ ++00;;22   B}} ##  H  % % ']]_F)$Q' 29= =""** ?y=> >""33 B++nQC,@A A BsA$B++AD3D  Dc|jj||jj|jjdd}d}t j} t j |jj|j|d|}|j|jD]}t j|z |kDrtd|d|s/|jd}|jdsR|d d } | jd k(r|S tj | } d | vrLt#| d d kDr;| d d j%di} | j%dd} | r|| z }|r|| |S#tj&$rYwxYw#t j(j*$rtd|dt j(j,$r} t j,d| d } ~ wwxYw)u流式输出（同步）Tr>)r-r@r r#u流式请求超时 (rDutf-8data: N[DONE]rArdeltarCu流式请求异常: )r*rrr!timerErFrr-rG iter_linesrJdecode startswithstripr@loadslengetJSONDecodeErrorrHrIrK)r.r0r#r2rL full_response start_timerMlinedatachunkrVrCrOs rr5z"OpenAILikeClient._chat_stream_syncs[[++ ++00;;22   YY[ * H}} ##  H  % % ' ++- %99;+g5&)=gYd'KLL;;w/Dx0#ABx::<83! !  %$(JJt$4E(E1c% :J6Ka6O(-i(8(;(?(?(L*/))Ir*B#*$1W$totalr#Nr-r@rArrBrCu异步请求超时 (rDu异步请求异常: )r*rrr!aiohttp ClientSession ClientTimeoutrFrr-rGr@asynciorJ ClientError)r.r0r#rLsessionrMrNrOs rr;z%OpenAILikeClient._chat_complete_asyncs[[++ ++00;;22  ((1F1FW1UV F FZa F"<<KK'' LL (FF--/#+==?2F!),Q/ :9EFFF F F FF 3 F FFFFF'' Q**-A'$+OPP&& F)),@*DEE F F F F F FsA3F35D6F39F;6D.1D2D.5$DDD+ D.7D8D.< F3D F3D.DD.F3D* D!D* &D.-F.>F ,FF  F F3FF3F0$F' %F0,F3cK|jj||jj|jjdd}d}t j t j |4d{} |j|jj|j|4d{}|j|j23d{}|jdj}|jd s:|d d} | jd k(rng tj | } d | vrLt#| d d kDr;| d d j%di} | j%dd} | r|| z }|r|| dddd{|cdddd{S7;77#tj&$rYwxYw6F7:#1d{7swYJxYw7?#t(j*$rt)j*d|dtj,$r} t j,d| d} ~ wwxYw#1d{7swYyxYww)u流式输出（异步）Tr>rQrfrhNrirRrSrTrUrArrVrCu异步流式请求超时 (rDu异步流式请求异常: )r*rrr!rjrkrlrFrr-rGrCrYr[rZr@r\r]r^r_rmrJrn)r.r0r#r2rLr`rorMrbrcrdrVrCrOs rr:z#OpenAILikeClient._chat_stream_asyncsV[[++ ++00;;22   ((1F1FW1UV% L% LZa$ L"<<KK'' LL ())--/&.&6&6))d#{{7399;??84#'8D#zz|x7 % )(, 4(8#,#5#eI>N:ORS:S,1),I ,II  I  II II!)rrrrrr/r rlistrr'rr$r8r<r6r5r;r:rrrr)r)#s%  {  &..#'48 ???% ? 8SE4K01 ? ?B&..#'48 FFF% F 8SE4K01 F F<BDB5BSB6<H<H<H8SE4K01 <H <H|F4F%FCF46L6L6L8SE4K01 6L 6Lrr)r"rrrrr!r#r3c:t||||||}t|S)u( 创建OpenAI客户端 Args: api_url: API地址 api_key: API密钥 model_name: 模型名称 max_tokens: 最大token数 temperature: 温度参数 timeout: 超时时间 Returns: OpenAILikeClient: 客户端实例 )rrrrr!r#)rr))rrrrr!r#r*s rcreate_openai_clientrss-, F F ##rrBr1r2cRt|||}d|dg}|j||||S)u  快速聊天 Args: api_url: API地址 api_key: API密钥 message: 用户消息 mode: 输出模式 timeout: 超时时间 callback: 流式输出回调函数 Returns: str: 响应文本 rhuserrolerC)rsr8)rrrBr1r#r2clientr0s r quick_chatry=s6,"'7G DFG45H   $ BBr__main__rCc t|ddy)NrQT)endflush)print)rCs rstream_callbackr[s g2T*rz*https://api.openai.com/v1/chat/completionszyour-api-key-here)rrr#ruu你好，请介绍一下Pythonrvu=== 流式输出 ===)r1r2u 完整响应: u === 完整输出 ===)r1u响应: )rrr r")#rr@rWrmrjrEtypingrrrrrr dataclassesr enumr r rr)r$r&r'rsrryrrr*rxr0r~r8rrMrrrrs  KK!   uLuLx& $ $ $$ $  $  $$J"**04 C C CC  C  C xt ,- C C8 z++<#F f %F$DEH  !##    $H  XJ '( "###  $H HXJ  Ar