知识卡片
框架问题:环境变化后间接影响难以追踪
内容
一个智能体如果要依据自己存储的知识来决策,这份知识就必须及时反映环境的最新状态,但环境里的每一次变化除了直接后果,往往还带着一串难以穷举的间接后果——花瓶被撞碎,直接后果是”花瓶碎了”,间接后果却包括”花瓶里的水洒了”“花瓶不能再插花了”等等,这类因果链条理论上可以无限延伸下去。如何让知识库既能高效存储和更新海量信息,又能正确捕捉这些间接影响而不至于漏掉关键变化或者被无穷的连锁推演拖垮,这个难题被称为框架问题。发散:框架问题揭示了”维护一份准确的世界知识”远比”存储一份世界知识”困难——存储是一次性的静态工程问题,而维护要求系统持续判断”这次变化到底波及了哪些间接事实、又没有波及哪些”,人类几乎不假思索就能完成这种判断(我们自然知道花瓶碎了水会洒但不会认为隔壁房间的温度也变了),但把这种直觉性的因果范围判断显式教给机器,至今仍是人工智能领域尚未被彻底解决的核心难题之一。
参考来源
《计算机科学概论》第11章《人工智能》