知识卡片

普通读书笔记卡 · 4377.l

大模型接入要可替换可评估

理解等级:中级

把大模型用于业务能力时,应通过模块化接口隔离模型提供方,并为输出设置防护和评估。原书假设招聘系统用模型匿名化简历:需抽样检查是否遗漏人口特征、是否误删技能信息,再比较候选模型。该例仅说明评估方法,不证明模型匿名化已达到公平性或隐私要求。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《Fundamentals of Software Architecture》原书第26章《Architectural Intersections》(阅读计划第30项,单元18;源文件:`OEBPS/ch26.html`) - 结论依据:原书建议用抽象与模块化支持模型替换、防护及评估,并以简历匿名化作为假设例子。 - 原始内容:It’s important to be able to replace one LLM with another quickly, and to allow for guardrails (rails) and evaluate results (evals) from various LLMs.