《生成式 AI》课程第3講 CODE TASK执行文章摘要的机器人

课程

《生成式 AI》课程第3講：訓練不了人工智慧嗎？你可以訓練你自己-CSDN博客

任务1:总结
1.我们希望你创建一个可以执行文章摘要的机器人。
2.设计一个提示符，使语言模型能够对文章进行总结。

model: gpt-4o-mini',#'gpt-3.5-turbo',

import requests
import gradio as gr
import json


def get_response(input_text):
    url = "https://openai.api2d.net/v1/chat/completions"
    headers = {
        'Content-Type': 'application/json',
        'Authorization': 'Bearer f'  # <-- 把 fkxxxxx 替换成你自己的 Forward Key，注意前面的 Bearer 要保留，并且和 Key 中间有一个空格。
    }
    data = {
        'model': 'gpt-4o-mini',#'gpt-3.5-turbo',
        'messages': [{'role': 'user', 'content': f"对输入内容总结：{input_text}"}]
    }
    response = requests.post(url, headers=headers, json=data)
    status_code = response.status_code
    try:
        json_data = response.json()
        # 提取模型名称
        model_name = json_data.get('model', '未知模型')
        # 提取助手回复的内容
        assistant_content = json_data.get('choices', [])[0].get('message', {}).get('content', '无回复内容')
        # 提取各类token数量
        prompt_tokens = json_data.get('usage', {}).get('prompt_tokens', 0)
        completion_tokens = json_data.get('usage', {}).get('completion_tokens', 0)
        total_tokens = json_data.get('usage', {}).get('total_tokens', 0)
        return status_code, f"模型: {model_name}\n回复内容: {assistant_content}\n提示词token数: {prompt_tokens}\n回复内容token数: {completion_tokens}\n总token数: {total_tokens}"
    except json.JSONDecodeError:
        return status_code, "解析JSON出错"


iface = gr.Interface(
    fn=get_response,
    inputs=gr.Textbox(lines=2, placeholder="请输入你想发送的内容"),
    outputs=[gr.Textbox(label="状态码"), gr.Textbox(label="解析后的响应内容")]
)

iface.launch()

执行的结果