知识卡片
大模型接入要可替换可评估
把大模型用于业务能力时,应通过模块化接口隔离模型提供方,并为输出设置防护和评估。原书假设招聘系统用模型匿名化简历:需抽样检查是否遗漏人口特征、是否误删技能信息,再比较候选模型。该例仅说明评估方法,不证明模型匿名化已达到公平性或隐私要求。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Architectural Intersections · 查看原书依据
It’s important to be able to replace one LLM with another quickly, and to allow for guardrails (rails) and evaluate results (evals) from various LLMs.
参考来源
- 位置:《Fundamentals of Software Architecture》原书第26章《Architectural Intersections》(阅读计划第30项,单元18;源文件:`OEBPS/ch26.html`)
- 结论依据:原书建议用抽象与模块化支持模型替换、防护及评估,并以简历匿名化作为假设例子。
- 原始内容:It’s important to be able to replace one LLM with another quickly, and to allow for guardrails (rails) and evaluate results (evals) from various LLMs.