知识卡片
透明信任权力
内容
机器学习体验设计需要同时处理自动化、代理、控制、偏见、信任和权力。发散：透明不是把模型细节全摊开，而是让用户知道系统何时介入、凭什么介入、如何申诉。
参考来源
- 位置：《架构启示录》第7章《建造智能的世界》正文，2017年“The User Experience of Machine Learning”会议结论（源文件：_chapter-text/chapter09.txt，对应OEBPS/Text/chapter49.xhtml）
- 结论依据：该会议得出的结论明确指出，设计师应从完善自动化、代理与控制机制，以及消除偏见、培养信任、善用权力这两方面影响AI系统的设计，并让交互机制更加透明，支持“透明信任权力”这一论点。
- 原始内容：这些影响尤其涉及两个方面的问题，一方面是要完善自动化、代理与控制机制，另一方面则是要消除偏见、培养信任并善用权力。设计师应该努力让这些交互机制变得更加透明，而且要让这些交互式系统的行为更加合乎道德伦理。