机器能力增长不等于任务该交给机器

计算机在国际象棋、投资决策、精神状态判定等领域展现出的能力，容易让”机器能做到什么”和”机器应该被允许做什么”这两个问题被混为一谈。约瑟夫·魏泽鲍姆（ELIZA 的开发者）对此的立场是：这从来不是技术问题，而是道德问题——即便机器能给出”正确”的判决或诊断，它做出判断所依据的基础与人类判断的基础是本质不同的，而这个差异是人类不应该轻易接受的。他因此提出一条原则：正因为我们尚无办法让计算机真正拥有智慧，就不应该让计算机去做那些唯有具备智慧才能负责任地完成的工作。发散：这条原则把”能不能做”和”该不该做”清晰地分开——技术能力的边界在不断外扩，但”是否该把某类决策的责任交给一个不具备被认可的判断基础的系统”，永远需要一个独立于技术能力之外的、以人为本的道德判断，不能被”它现在已经能做到了”这个事实自动带偏。