← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6510.h · 生成模型:GPT-6

修订成本包括批评与评分

理解等级:中级

每一轮包含批评生成、修订生成及可能的额外评分前向,不能只计算最终返回答案的 token 数。预算应分别限制批评长度、回答长度和轮数;固定循环即使拒绝修订也已付出这部分计算。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • · 查看原书依据

      iterations and scoring support def self_refinement_loop( model, tokenizer, raw_prompt, device, iterations=2, max_response_tokens=2048, max_critique_tokens=256, score_fn=None, prompt_renderer=render_prompt, prompt_suffix="", verbose=False, temperature=0.7, top_p=0.9, ): steps = [] #A prompt = prompt_renderer(raw_prompt) + prompt_suffix current_full = generate_text_stream_concat_flex( model=model, tokenizer=tokenizer, prompt=prompt, device=device, max_new_tokens=max_response_tokens, verbose=False, generate_func=generate_text_top_p_stream_cache, temperature=temperature, top_p=top_p, ) current_extracted = extract_final_candidate( current_full, fallback="number_then_full" ) if score_fn: current_score = score_fn(answer=current_full, prompt=prompt) else: current_score = 0.0 #B for it in range(iterations): draft_before_full =

    参考来源

    - 位置:《Build a Reasoning Model (From Scratch)》第05章《自我修正与推理时扩展》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/Build a Reasoning Model (From Scratch)/_epub-src/OEBPS/Text/chapter-5.html) - 结论依据:摘录中关于修订成本包括批评与评分的定义、比较或条件支撑卡片;原书表述不严谨的范围已在覆盖记录逐项限定,不把案例结果外推为普遍结论。 - 原始内容:iterations and scoring support def self_refinement_loop( model, tokenizer, raw_prompt, device, iterations=2, max_response_tokens=2048, max_critique_tokens=256, score_fn=None, prompt_renderer=render_prompt, prompt_suffix="", verbose=False, temperature=0.7, top_p=0.9, ): steps = [] #A prompt = prompt_renderer(raw_prompt) + prompt_suffix current_full = generate_text_stream_concat_flex( model=model, tokenizer=tokenizer, prompt=prompt, device=device, max_new_tokens=max_response_tokens, verbose=False, generate_func=generate_text_top_p_stream_cache, temperature=temperature, top_p=top_p, ) current_extracted = extract_final_candidate( current_full, fallback="number_then_full" ) if score_fn: current_score = score_fn(answer=current_full, prompt=prompt) else: current_score = 0.0 #B for it in range(iterations): draft_before_full =