这一次想先听听大家对一个难题的分析

老包

这一次想先听听大家对一个人工智能难题的分析（注意，我需要的是对这个问题的理解，而不是简单的“一个往返划船策略”做答案）：


“人工智能哲学”一书讲了J.麦卡锡提出的“教士与食人者”的人工智能难题（相同性质的问题在医学自动决策中也会遇到）：

“三个教士和三个食人者来到河边。只有一条可乘两个人的小船。如果在河岸的人一边食人者的数目超过教士，教士就会被吃掉。他们该怎么过河呢？

显然，该难题需要的是设计出一个往返划船策略，使他们都能过河，又不发生惨剧……

我们设想把这个问题交给某人，经过一段时间的苦思冥想，他提出建议，向上游走半英里路，从桥上过去。“什么桥？”你说，“这个问题的陈述中没有提到过桥。”你查看了一下原文，甚至查看了翻译成一阶逻辑的原文，你不得不承认，“他们没有说”那里没有桥。于是你修正了问题，将桥排除在外，再次提出。这个笨伯又建议乘直升飞机，当你排除了直升飞机之后，他建议飞马，或是在两人划船时，其他人吊在船外。

  现在你看到了，他虽然是个笨伯，但却是一个有创造性的笨伯。要让他正确认识这一个难题的实质，你完全失望了，于是把解答告诉他。更让你气恼的是，他以船可能会漏或没有桨为理由，对你的解答提出反诘。当你纠正了该问题陈述中的这一省略之后，他又提出可能有一水怪游出河面，把小船吞下去。你再次受挫，于是去寻找一个能一劳永逸地使他哑口无言的推理方式。”



摘自：玛格丽特.博登编，刘西瑞，王汉琦译：“人工智能哲学”,上海：上海译文出版社，p219， 2001（这是一本很好的书，讲了很多人工智能的困惑和对策）

tyq

对人工智能这个问题的理解，如果用一定的算法是可能实现，但如果条件或者数据改变，有可能结果不收敛，就出现了笨伯的问题。

dreamaster

我认为笨伯真的很笨，他没有意识到题目语境中的默认约束是：只能利用给出的条件来完成任务。

学生作考题时首要的技能就是正确分析题目的语境和语义，笨伯显然不合格。

dongxi

包老师的话好象还未说完吧

老包

[B][I][U]我认为笨伯真的很笨，他没有意识到题目语境中的默认约束是：只能利用给出的条件来完成任务[/U][/I][/B]。

想不到很快就触到要害了！我非常高兴，觉得我们论坛是可以做理论探索的！

这是一个最典型的最普遍的令人工智能学家感到困惑的问题。Dreamaster说 “[B][I]默认约束是：只能利用给出的条件来完成任务[/I]。”[/B]这句话如用较严密的语言也许可以表述为：“[B][I]默认约束是：除了表述的内容和其一般逻辑的蕴涵，其它都不存在[/I][/B]”。

但是我们知道，我们面临的医学人工智能、医学决策或医学知识整合工程的对象是个比“孙悟空”还要厉害得多的变化多端的[B][U]机体[/U][/B]。因此在很多情况下，我们不得不充当“笨伯”。所以搞清什么样的系统允许（什么样的系统不允许）这一默认约束非常重要。那么什么样的系统存在这种“默认约束”呢？

xuyunxi

我想这是一个系统考虑问题的方法，在人工智能领域当我们遇到一个问题时，首先要做的，就是要划分与限定此问题涉及的边界，包老举的这个例子似乎还不是很明显，但有的问题确表现出其与很多的方面都有关系，而我们又不可能将其所有关联到的因素都提取出来综合考虑，因此我们必须要限定此问题的关联域，确定其受影响的主要因素和主要发生条件及其的影响权重；在我们做出这些分析之后，即确定了问题的主要边界和主要条件，这时我们的主要精力就放在该范围内对问题的解决模式及算法方面，而不会受到其它次要因素的影响。

dongxi

楼上说的“我们又不可能将其所有关联到的因素都提取出来综合考虑，因此我们必须要限定此问题的关联域，确定其受影响的主要因素和主要发生条件及其的影响权重”
现在开始有点明白了。
我觉得包老师说这一大段话有一个隐含的前提——所有的因素都会对问题产生影响；所有的影响因素其实都可以借助技术方法进行关联(解决)的。
是否，应该考虑到还有一些因素，这些因素都不是主要的，其权重也是小的，但技术上是可以处理的，都应该被考虑进来。因为，我们可能未能意识到这些因素其实也是主要的
是这样吗？

sbf2000

静态地去考虑一个问题的前题或隐含条件是不可能全面的，也不可能绝对正确的，我们只能动态地、相对地把一个问题的前题条收集起来，然后通过逻辑推理、运算，最后产生一个针对某种意图相对正确的结论。人工智能一般都应该只针对相对固定的有限范围的意图，生成一种跟据所有可能采集、已知的前题来自动进行推理运算的程序，用来增强人类思维能力，提高生产效率。

dreamaster

我的理解，目前的人工智能并非真正的智能，应该不具有真正的“创造性”，因此，约束条件（或者产生这些条件的规则）应该由外部来给出，也就是人类的参与。人工智能只适用处理已确定知识领域的问题。

或者说，让机器具有创造性是不是要冒很大的风险？机器的知识域相对人类本身要小的多（至少目前是这样），对于未知领域或者未确定领域的问题，人类尚且不容易作出正确的决策，机器得出正确结论的概率是不是更小？

dreamaster

我也问个问题，请包老师和朋友们回答：）

可以这么说，人类（高级生命）跟机器的最大区别在于，人知道自己的存在，机器不知道。也就是说人（高级生命）具有自我定位的能力，有“本位”感。按照马克思同志的世界观，一切都是物质的，人也是物质的，思维（包括记忆）也应该是基于物质的。假设有一种机器能够在瞬间“克隆”出一个完整的你，现在有了两个一模一样的个体，在物质组成上他们是完全等价的，那么你会感觉哪个“你”是你呢？或者说你的本位感会落到哪个个体身上？哪个个体会继续你的思维？继承你的回忆？还是两个都？

如果得不出明确的答案，是不是可以推测，除了物质以外还有“灵魂”存在呢？

呵呵，权当一笑：）

dongxi

sbf说得不错，信息技术的背景很自然地会令一个人沿着解决问题的思路行进下去，从而得出类似的结论
留意一下，包老师目前信息技术的背景好象已经要弱于哲学理论的背景，哲学理论背景很可能会令一个人沿着发现问题而不是解决问题的思路行进下去。
如果我们不强调包老师所提的这个问题本身的答案，而强调包老师(提问者)隐含所指的的话，那么可以猜测一下包老师提问的原因是什么。
包老师想告诉我们：信息技术已经可以分析一些显然相互关联的机体之间的联系了，同时哲学理论研究人员发现其实所有机体之间都是有联系的，而所有这些机体之间的联系(尽管是不明显的)都是可以借助信息技术进行分析的，信息技术研究应该开始关注或者积极投入这些领域。
所以我认为包老师的话未说完。

dongxi

DREAMMASTER提了个很有趣的问题。克隆是个很好的引用。
虽然曾接触很多搞分子生物学的人，但直到现在没有人回答我的一个问题：智慧能够被克隆吗？
固然人是基于物质的，但基于物质的思维本身也是物质吗？
我并不认为这样，基于物质的思维是抽象的，并且受非物质因素的影响。即是说，您可以克隆出物质上一模一样的两个大脑，但这两个大脑并不见得能够产生一模一样的思维与智慧。
假如我的观点成立的话，楼上的问题便不会存在了。

老包

讨论的内容比我开始提出问题时显得更有趣了，一些问题也正是我为了整合论而常常苦苦思索，梦绕魂牵的事情。有些问题的提出本身就很了不起。所有上述这些论述都非常好，有些是我们在做数据或系统分析时会直接遇到的，有些问题则埋伏在我们要处理的对象后面，作为基本原则在起作用。我们暂时把我的提出问题时一些原始意图，“宝葫芦里到底卖的什么药”先搁置一下。

有些问题目前好象已有答案，但我对这些答案仍有怀疑：
[B][I][U]dongxi：“一直到现在没有人回答我的一个问题：智慧能够被克隆吗？”
dreamaster：“假设……“克隆”出一个完整的你，现在有了两个一模一样的个体，在物质组成上他们是完全等价的，那么你会感觉哪个“你”是你呢？或者说你的本位感会落到哪个个体身上？哪个个体会继续你的思维？继承你的回忆？还是两个都？”[/U][/I][/B]

这两个问题有一些共同之处，曾经有过答案。在80年代，有人介绍了一个著名的实验，把老鼠们放在一个迷宫里，开始老鼠们到处寻找，不断地在很多盲路中上当吃亏，吃了很多苦，最后它们终于走出迷宫。最后这条迷宫轨道已进入其记忆中，所以下次再把老鼠放入迷宫，那些老鼠就能轻而易举走出迷宫。

然后实验者把“有了经验”老鼠脑中某种物质提取出来，注射到另一个从无这一“经验”的老鼠身上。奇迹出现了，那只老鼠竟然“无须学习径直走出了迷宫”。那种提取的物质被称为“记忆蛋白”。这是智能可以以某种形式克隆的证据.

听到这个消息，当时我非常兴奋，因为那就意味着“第二个爱因斯坦可以在第一个爱因斯坦的基础上进一步思维，变为‘二阶爱因斯坦’”。

但我后来对此产生了怀疑，……下回分解。

xuyunxi

呵呵，包老很会吊我们的胃口！哈哈

dongxi

包老师讲的实验很有意思，但远未足够。
被注入“记忆蛋白”的老鼠还要具备很多特征才能推论“智慧克隆”
比如它必须自动地辨认出哪只老鼠是它父亲；必须象以前的儿子一样对待他的父亲，而不仅仅是觉得有点亲近；
这个实验还必须重复多次，比如一只老鼠曾经走过5个不同的迷宫，然后它的记忆蛋白分别被注入到5只老鼠中，这5只老鼠分别走5个迷宫，都能够“无须学习”直接走出迷宫。