人工智能都是扯淡，没有前途，就像三体，人类一个基础认识更新就摧枯拉朽

http://www.mitbbs.com/article_t/Military/45251557.html

发信人: overdrunk (牛娃娃和小熊跳舞), 信区: Military
标  题: 人工智能都是扯淡，没有前途，就像三体，人类一个基础认识更新就摧枯拉朽
发信站: BBS 未名空间站 (Mon Feb  1 18:49:35 2016, 美东)

这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
将永远不能在围棋上战胜人类。其实相比于国际象棋来说，围棋软件的能力落后问题不
仅仅由围棋的搜索复杂度来决定。在当时的西方世界，国际象棋的普及程度很高，人们
对国际象棋的理解也比较深，所以在计算机上可以采用比较高效率的编程。而围棋在全
世界也只有中日韩三国在玩。懂围棋的人计算机基础比较浅，而欧美等计算机大国对围
棋也并无深刻了解。所以围棋在计算机系统的实现效率不高。我本人对于google的围棋
系统编程也没有什么内幕了解，听说应用了什么machine leaning的技术，也能看到大
量华人开发者的名字。让具有围棋思维的人来开发围棋软件，并且适当地采用新技术，
再加上当前硬件能力量级上的提高，使得google围棋出现了战胜人类的苗头。最近几年
还有一个关于人工智能的话题，就是机器究竟能不能战胜人类，成为人类生存的威胁。
时常可以在网上看到这方面的新闻，什么霍金或者比尔盖茨，马斯克等大佬带领100多
名科学家，来警告人类来自于机器的威胁。这种机器威胁论来自于一个基本观点，就是
技术大爆炸。纵观人类的技术发展史，这确实是一个趋势，就是人类的技术进步是指数
性的。好像很多网上或者微博里的观点说，技术的拐点将出现在2040左右，也就是说再
过24年左右机器的智力就要达到和人类持平。按照指数发展论，机器的智能水平超出人
类的10倍或百倍就会在更短的10年或者几年之内实现。如果是这样的话，那么将来人类
真的会置身于机器的巨大的威胁之下。特别是因为机器本身逻辑缜密，没有情感波动，
基本永远不会犯错。就像机器和人类下棋，如果棋力相当，机器只要静静的等待人类犯
错就好了。而由于人类的感性特征，出差错几乎是必然的，那么机器就会战胜人类。然
而，人类真的有这么悲观吗？人工智能在能看见的将来会战胜人类或多人类生存造成威
胁吗？

我个人以为，即使在今年的3月份google的围棋程序战胜了李世石，也并不代表人工智
能有什么革命性的发展。我们讨论一个事物的存在对人类造成威胁的时候，是缺省的把
对方看成了一个独立的个体。如果你说坏人会利用机器来造成对人类的威胁，我承认有
这种情况发生的可能性，但是我不会把这种威胁归结于机器本身。就像原子弹会毁灭人
类，但是人们从来没有把原子弹于人工智能等同。在人们讨论人工智能对人类的威胁的
时候，我认为人们的语境是把人工智能作为有主观能动性的个体，也就是认为人工智能
可能具有主观灭绝人类的意识或愿望。要实现这一点，机器必须具有区分自我和外界的
能力，也就是机器本身必须具有个体意识 (self-consciousness)。人类具有意识是人
们普遍认为的人区别于动物的最主要因素。这甚至是很多宗教的建立基础。关于人类意
识的起源的研究，以人类当前科技的发展水平及观念，基本还没有窥得门径，而更像一
种玄学研究。人们可以通过编程来让机器模拟人类的任何动作习性等等，但是那只不过
是人类的意识过机器的体现，并没有赋予机器任何于人类在本质上的接近。即使某一天
机器的计算能力是现在的无穷多倍，那也不过是人类逻辑的反应。在人类能够弄清自己
的意识的本质以前，人类制造的工具只能是人的工具，而不可能造成对人类本质上的威
胁。我不认为人类在能够弄清自己的意识的本质以前造出的工具会奇迹地产生了自主意
识。当然还是如前所述，如果人使用工具对人类的生存造成威胁，那终究还是人类自己
的问题，而不是工具的问题。

在人类对外界事物的交互中，人们往往认为感性是一个负面因素，比如在与机器的棋类
对战中，情绪波动会造成很大的劣势。我估计会有很多人认为，严密的逻辑与理性的思
考是人们所应该追求的，也是人们智慧的源泉。但是真相与此相反。如果与机器对比逻
辑和理性，那么人类一定会败北，因为机器本身就是人类的逻辑设计的冷酷体现。而事
实是人类的感性恰恰是人类最大的优势而不是劣势。人类尝试用逻辑来认识世界，并且
在相当长的一段时间内是唯一的认识世界的手段。在这方面古希腊的哲学最具代表性。
然而事实我们也能看到，尽管古希腊人逻辑思辨能力非常强，但是他们并没有得到认识
自然的真正的知识。人类近代的科技大爆发是建立在科学基础上，而科学的基础并不是
逻辑，而是实验。实验是对事实的采集，而且人类的直觉是知识获取的终极手段。逻辑
的本质是演绎，而科学是对现象的归纳。由于人类的能力所限，人类对于现象的归纳必
定是有限归纳。而对于有限归纳结果的接受则来自于人类的直觉。比如对于支撑了近
300年来工业革命的牛顿力学的基础，就是譬如能量守恒和动量守恒等等一系列的定律
。人们从来不能肯定这些定律一定是正确的，在有限的观察范围内人们只能靠直觉来接
受它。在物理上，来自于归纳的事物运行的规律叫做定律，而从定律出发演绎出的一系
列结果叫做定理。如果定律是错误的，既使逻辑是多么的严密，推理得到的知识也一定
是错误的。哲学及数学中可以做一系列的公设，然后从演绎得到一个严密的逻辑体系。
这些逻辑体系都可以自圆其说，然而它们可以和科学毫无关系。因为公设的正确性与否
是不能被证明的，他们可以来源于人类的直觉，也可以是其他来源。只有在等人类发现
了（相对）真理之后逻辑才可以起作用。既是逻辑本身也可能存在问题。1930年代年哥
德尔的不完备性定理说明，一个形式体系的完备性及相容性并不能被本身证明。人类依
靠逻辑本身来认识世界是不可能的。所以科学的进步，知识的获得，必须要依靠人类的
直觉参与才能实现。而机器只是一个逻辑体，所以它本身并不能获得除人类输入之外的
新知识。如果按照获取知识，或者获取真理的能力做为标准来衡量智能的话，机器会有
可能超出人类吗？

当然我当前的一切观点都是建立在人类当前没有能力能造出具有人类同等意识和同等感
性直觉的机器的基础上。如果某一天人们能够解开意识的本质，并且发现意识本身是物
质层面上的，并且有能力能够在机器上去实现，那么到那时我将会认为机器会对人类造
成真正的生存威胁。然而我认为那一天还非常遥远，并且有可能永远无法实现。