窦文涛：《锵锵...
内容提示：本期节目窦文涛、许子东、吴军谈人工智能的话题，吴军谈到，“机器人不伤害人”定律已经不成立，人工智能看病已能比肩中等医生水平。
窦文涛：《锵锵三人行》，马后炮又开张了，我们这个节目马后炮的原因之一是什么呢，很多时候我都在等人，就是我们这节目天天播，天天请人。但是有时候碰到了一个新闻，一个事情，我就好像等一个人，可是这个人他在世界各地云游，我等的就是吴军老师，今天终于等来了。那许老师，你知道我是什么时候想等他的呢？
许子东：就是为了痛打落水狗呗。
窦文涛：打谁？
许子东：落水狗呗。
窦文涛：哦，阿尔法狗。我们节目现在也挺时尚的了，早上次吴军老师在这儿就给我们谈到了，我印象很深。因为他在谷歌工作过，还当过腾讯副总裁，也是硅谷的人才。但是，人家当然现在我感觉有点资本家。
吴军：我主要是知识技术。
窦文涛：就等于他是一个科学家我觉得应该是，但是他很有人文情怀，整天在朋友圈里发什么落叶呀、夕阳啊，感觉你好像是每天都挺腐败的过的，是不是？
吴军：没有，没有，我是有时候随身带着相机，看到什么好东西就照下来，然后有时候就分享出来。
窦文涛：这很不容易，就是像杨振宁说的那样，就是说你能从物理学里看出美，就是自然科学家他能够有这个审美，这好像也是您特别强调的。
吴军：这我觉得非常重要，因为我觉得人培养是一个全面的。而且前一阵我还写了篇短文，是一个人问我，说美国大学的每学期那么短，还学什么东西，我就跟他讲，这个学习是为了成长，你玩也是为了成长。你到了23、24岁，你发现你没玩过，这个成长就不完全了。
窦文涛：那我发现自打您玩起来之后，好像您就把您的自然科学也放弃了，您现在都不搞您当年的专业了，是吗？
吴军：没有，我也搞一些，但是我不自己搞，现在我呢一般是在支持三所大学在那儿，主要他们在搞。
窦文涛：你当老板了？
吴军：也不是说当老板了，就是说我对我感兴趣的项目会有一些，跟他们一些讨论，包括有些投资这些。
窦文涛：我问你一个问题，可能就是说你看像下围棋的一般来说，到一定年龄就知道自己老了或者说算不过来了，就会慢慢地趋向于退下赛台了。这个科学家，过去我们得到的概念，那科学是一生的事业，感觉你看爱因斯坦一辈子就琢磨着宇宙的秘密，没完没了的。那像您就感觉到后来，是出于什么原因不再做你一直孜孜以求的专业了？
吴军：是两个原因。一个是科学发展很快这个，就是说我们过去做这个东西，你可能如果按照原来这个路子走，很多人是越走越窄，我们大家对科学家一个印象是这样，越走越窄。再有一个，又出现很多新的东西，新的东西你可能感兴趣，那你未必有时间学或者是未必能学得很好，但是有人学了，比如说去年的时候，我跟朱棣文来聊他的新的这个想法。他是物理学家，然后从政，当了能源部部长，然后又回到斯坦福，回到斯坦福了，他就不再当物理学家，他在医学院，所以他找我的原因是说，他说我在医学院能不能给点支持，就这意思。所以，像他这种就是说属于自己个人在科学上不断追求，所以我觉得挺难的，这么一个年纪要从物理学完全转到医学上。
欧美很多科学奖只颁给40岁以下 认为40没到人生顶点这一辈子就没戏了
窦文涛：今天科学的发展会让老科学家觉得自己很容易被淘汰，或者说知识老化，或者说也会觉得科学慢慢也是一个年轻人的事业了，有这种感觉吗？
吴军：其实在欧美很长时间是这样子，因为你比如像菲尔兹奖它不给40岁以下的数学家，它就认为说你如果40岁以下没有达到人生的顶点，那你这一辈子就没戏了，数学这事儿就是没戏了，你就可能是智力不行，其他不行，就淘汰了。
窦文涛：40岁之上，那就等于是终身成就奖的感觉了。
吴军：在以后就是终身成就奖了，所以他40岁以前你必须要么得到菲尔兹奖，要么他就不给你了。个别的研究它是偏实验科学的，那个时间很长，因为它要时间验证，比如最典型有两个，一个是前两年的诺贝尔奖的希格斯场、希格斯粒子，他提出来的年纪并不大，但是因为花了几十年，欧洲人和美国人花了几十年来验证这个理论，从60年代到现在花了将近半个世纪验证，这个时间走了很长，走了将近一代半人或者两代人的时间，这是一个。
许子东：香港中文大学原来那个校长，他很晚才得奖，可他的研究是很年轻的时候的。
吴军：高锟，70年代的时候光纤，我们今天用的光纤之所以能够使用，都是靠他的理论。
许子东：不过也亏得他活得久，因为诺贝尔奖只给活着的人。
窦文涛：这又说到你们老文学家了，你觉得老作家今天有没有落伍的感觉？
许子东：这个正好是相反，你要是数学，他们就说40岁不发表论文，以后就难了。文学学术正好相反，40岁就出书，老师不鼓励，你出书太早，他就说你这个水库坝筑的不够高，你太早发表文章，太早成名未见得是好事。王尧当年就跟陈明远这样说，所以是不同的学科有不同的积累，钱钟书还专门拿那个老科学家这个字调侃了一番，到底是年纪老的的科学家，还是老的科学家呢？
窦文涛：这个说的有意思。
许子东：非常非常坏。
窦文涛：但是你说这个人工智能，这算是新的科学吧？
吴军：这历史其实蛮长的，最早提出来这个概念是1956年，而且今年也很巧，就是说提出这概念，最后一个科学家，他们1956年那拨人，马文·明斯基几个月前刚在麻省理工去世。
窦文涛：对，著名的马文·明斯基，这是历史上的一个。但是你知道我们请来了江铸久九段，他们围棋界的，我了解到，就是说看到这个阿尔法狗下出来的某一手棋，他是热泪盈眶，说是甚至说像江铸久就是说这就是当年吴清源老师期望的那种中和之棋，他就是这个感觉。你跟谷歌那些人不是挺熟的吗？
吴军：对，我是专门跟他们聊过。
窦文涛：对，我想知道他们的那个感觉是什么，当然不是他们新闻发布会上说的假话，是真话。
吴军：第一个就是说这是很有意思的一件事，因为计算机本身它不知道它在下围棋，它是在做一些运算，实际上计算机你要让计算机谈感受，就是说我不知道我是在下围棋，这是计算机。然后，谷歌内部那话就长了，我们讲讲它整个来龙去脉。就是说这公司DeepMind它要找一件事证明它的这个机器学习的能力很强，那么就找了围棋这么一件事。它有很多很多版本，几十个版本，就是每一次比如说又做了一个改进，改进出一个新的版本以后，就跟老的版本去下，看哪个版本能够赢，能够好，这就是新的版本替代老的版本。公司内部它就大概有几十个版本吧，每天假设我们说50个版本，每天这一个版本跟49个都在下，互相这一下，一天就上千盘就下下来了。
窦文涛：这个我就是说当时赢了李世石4：1，他们谷歌内部的人是什么感受？
吴军：他们事先其实还是有把握的。
窦文涛：他们已经断定，肯定。
吴军：对，事先他是有把握，他是这么算的，他是说就是说围棋选手好像是这样，如果你差一段，就是70%对30%，就是我们说八段选手对七段选手，八段的胜率是70%，七段是30%这样。那么，它跟第一个测试人是樊辉二段，那其实下了很多，下很多。它知道是这样，以职业二段的选手如果跟职业九段选手下，大概职业选手九段选手的胜率大概是95%到98%大概，九段也有好的九段和差的九段。比如说李世石或者是我们现在柯杰这种是好的九段，那可能对二段的胜率是98%，反正到不了百分之百。但是，阿尔法狗对职业二段的胜率是百分之百，这是他们能确定的，所以他觉得他比九段要厉害。
窦文涛：但是你知道这会给我带来一个不一定正确的一个见解吧。就是过去我感觉围棋是博大精深的，但是这一赢，我就觉得围棋是没人味的东西，你明白吗？过去我们觉得它像中医一样，它有很多感觉的，是道，是智慧的。但是这种胜利让我知道，甭管说的多么悬，它本质上就是一个计算的游戏，只要计算量足够先进、足够大，就胜负很分明。
吴军：是这样的。
窦文涛：那一切神秘的面纱。
许子东：是不是说同样这些机器，它今天能下围棋，它明天也能下国际象棋。
吴军：国际象棋是在十几年前已经完全解决了。
许子东：那它也可以下其他的桥牌、象棋，都可以下？
吴军：这些已经都，围棋几乎是最后一个。
窦文涛：中国网友提出来的就是打麻将给我们试试。
吴军：那这个打麻将要容易得多，比围棋容易，因为它是一个算概率的事儿，人是算不过它的。
窦文涛：打麻将有一个，我认为至少有四成靠运气吧，你摸到你这牌。
吴军：不是，你打多了的话，运气慢慢地就给中和掉了。
许子东：要是能把这个机器缩小一点，带进拉斯维加斯赌场的话，那我能赢吗？
吴军：不是，第一个拉斯维加斯不要说这个，连那眼镜都不让你戴，因为怕你记牌。说起这事儿，讲另外一个故事，就是信息论在香农之后最有名的一个人叫做托马斯·科弗，就是编写信息论那本书的那个人，斯坦福一个教授。他在拉斯维加斯就被定为不受欢迎的人，为什么呢，因为他算牌。算牌，后来我就问我的一个导师，因为是他的朋友的贾里尼克，这也是很有名的一个人，说为什么要把他赶走呢？他说倒不在于说他算牌，他赢了那点小钱。而在于说他把那一桌子人输钱的速度都放慢了。
窦文涛：听得懂吗？
吴军：把一桌子人，比如我们这一桌子人打牌，我老算牌，我虽然赢了点小钱，但是出牌都慢了，因为我就是。本来大家到那儿哗哗的钱就输光了，拉斯维加斯就有钱挣。
许子东：所以他就妨碍了赌场的生意。
吴军：妨碍赌场挣钱。
窦文涛：他就是心算吗？
吴军：他是心算。
许子东：那我的问题就是说，如果用这种机器，赌场是肯定就是了。
吴军：赌场就输了，因为它首先不要说用机器，你要记牌的话，赌场就输了，赌场是不洗牌的。
窦文涛：听上去吴老师也经常去玩儿。
吴军：我一般是不太赌。
吴军：“机器人不伤害人”定律已经不成立
窦文涛：你知道这个阿尔法狗赢了棋之后，在知乎上面他们有一个问题，担心，让你有什么担心，结果说三百多个回答里头，相当一部分人担心的就是怕这个，就是说所谓老问题，怕机器人统治我们。于是，又有人拿出当年那个科幻作家阿西莫夫，你记得吗，最著名的科幻很多时候就是寓言，他的三个定律，你可以看看这个定律，这个定律有一定的伦理性。你看，当时他的科幻小说里说，就给机器人要设定什么程序命令呢，一是机器人不能伤害人类或无所作为而导致人类受伤害。二呢是机器人必须听从命令，除非这些命令违背第一条。三呢是机器人必须保护自身，但这些保护不能跟第一条和第二条准则相违背，你看这是人设的逻辑。
吴军：这个实际上是第一条，就是说机器人一定听人的，这个没问题，现在谁设计的机器人听谁的。但是第二条已经不成立了，就是说机器人不能伤害人，因为你战场上现在用的将来的一些机器人它就是去伤害人的，所以第二条已经不成立。因为他自己恰恰是因为它自己无意识，所以它无法判断。
许子东：但是它听它设计者的命令，不伤害其他人，对不对？
吴军：听它设计者的，所以这是我一直的一个观点，就是说机器本身不会伤害人，但是设计者能够利用机器去伤害人，这是第一个。同样，机器人也不会控制人类，但是人类会被那些制造机器的人去控制，也不叫控制，这是比较可怕的说法，但是某种程度上是被控制。
窦文涛：我是看凯文凯利的书，我产生一种这个文科生的狂想，就是说如果足够多的电脑连接在一起，就所谓的集群希望效应，足够多。你比如互联网就是，它会不会从无产生出某种意志，就它自己这么多的运算，你像那种并行式的这种运算，就像人的大脑多层神经网络之间。你觉得是你设计的，可是你这一启动，有一个例子他们讲的也是文科生的例子，就是说这个狂想。就是说假如人类是上帝造的，那么上帝没有想到这个人类到了某一天会有一个人类站出来说上帝已死，我自己决定创造自己的命运。所以，有些文科生会觉得这个魔咒，你有这个担心吗？
吴军：现在暂时可能还没有，因为人的意识怎么来的，这很大程度上人说这是物理学最根本的测不准的原理，它本身是一个非精确的一个结果产生了这个意识。那么，计算机的东西恰恰是一个强调精确的这么一个结果，就是回到刚才您讲的围棋这个问题，就是说围棋过去这种美感可能是否消失了。其实我觉得从韩国围棋取代了日本围棋以后，这个东西已经就味道有点变了，从李昌镐开始，下围棋和当年吴清源或者藤泽秀行这已经完全是两个概念的事儿了。
窦文涛：就是更重胜负。
吴军：就是更重胜负，就是最后我就赢你半个子就完事，和当时说这个求道派说这盘棋我哪怕输了，我这一手一定要下的漂亮，这已经不是一个东西了。
窦文涛：对，我记得武功正术嘛，要下的美。许老师对这事儿怎么看？
许子东：当然了，我们大家都担心人工智能有一天不受人控制，但是我们积极地看吧，我相信它如果能下围棋，现实它已经可以起很多作用。我相信美国的这个军事部门它可以用这个东西来设计，来计划，因为你听他们说这个人工智能，它就是事先给它很多很多的案例。就是人家下了几万盘，所有人几十万盘，什么小林光一，什么聂卫平，什么吴清源，全部都教它，让它在脑子里受训练。那一样的道理，那你今天如果为一个舰队，为一个导弹部队配备这样的一个智能的话，它把所有的海战的所有的战例的所有的可能性，考虑航流、天气、对方的军舰、对方的司令官的家庭背景，它可以设计很多战斗的方案。这是可以，我相信他们肯定已经用了，对不对？
吴军：这个是从50年代的时候，最早的计算机，就是IBM和麻省理工学院建造了一个最早的大型计算机，这是从体积来讲，今天还是世界上最大的。它很大的目的就是说把这个作战的指挥全部信息化，从那时候其实已经开始，50年代的时候。
窦文涛：好，那我再提一个，就是说您刚才讲到这个不能进赌场，对吧，但是这玩意儿，阿尔法狗这个东西能不能炒股票，A股市场、金融市场，这本质上也是一种策略、价值。
许子东：对，计算。
吴军：这现在其实百分之，就是在国际市场80%的股票交易是机器完成的，不是人完成的。
窦文涛：就决定卖出买入？
吴军：就完全是算法完成的，不是人完成的。
许子东：就是我大公司我就可以找一个小的人工智能来介入股票，那股民怎么玩？你是在跟阿尔法狗玩。
窦文涛：我就跟你说这个知乎网站，很多人真的就因为阿尔法狗这件事儿，他们最大的担心是会不会将来失业？因为已经很多工作，像金融分析师。
吴军：很多人会失业，这没问题。
窦文涛：那人类何处去呢？
吴军：那就需要花很长时间来消化这个东西。
许子东：文涛提的这都是负面，都是害怕的。我们提点积极的好不好？我在想它的能够不能帮助政府决策。
吴军：能啊。
许子东：比如我们现在很多很具体的问题，比方说交通管理、摩托车、电动车怎么办？各个城市，疫苗，这个疫苗的渠道，这些国际民生当中的具体问题，不牵涉价值观的问题，它可以积累大量的数据，它可以为官员提供很多很多现成的方案，七八个方案让你们来选择。这为什么不引进，不用呢？
吴军：这是可以的，因为在德克萨斯大学有一个教授，他已经在美国在三个城市做了这个实验，就是说你把手机上装上某一个APP，到你们家和到你目的地的最近的那个半英里，就是差不多0.8公里它是不跟踪的，因为它怕隐私，就是不知道你们家在哪儿。从哪儿开始，但是你可以告诉它我大概就是说每天大概从哪儿到哪儿出行，你可以告诉它，但是你也可以屏蔽掉这一段。那你装上这个，它在整个城市的情况有一个了解，它基本上，然后它跟你的比如说日历，就是你每天咱们说今天下午要两点钟做节目，就是这些活动安排都给联系在一起。那它基本上可以告诉你是这样，比如你平时准备说早上十点从家出发，它说不用，你十点半，只要晚出来半小时，不走这条路，走另一条路，你可以今天路上省40分钟。所以，它每一个人，它可以精细化到就是说每一个人可以给你有一个建议，我们这样同时让它把城市的道路，就是你八九点钟时候的道路超负荷的运转，然后十到十二点钟道路又不饱和，基本上它根据你们每一个人今天的活动安排，它给你重新规划一下。
许子东：这个其实我们现在都在做，谷歌地图、谷歌map都在告诉我们从A地到B地有几种路线，这是个人帮助。我刚才讲的是国家公共政策的决策。
吴军：这是一个城市，它这个城市。
窦文涛：国家领导人被取代，是吗？
许子东：不是，我觉得现在那么多的领导，很多人做的很多糊涂的事情可以用阿尔法狗来代替阿尔法狗可以把那些全部取代，搞什么搞。
吴军：不是，有些时候还用不着阿尔法狗，我们明明知道正确的，该怎么做，只是我们不去做现在。
吴军：人工智能看病已能比肩中等医生水平
窦文涛：这吴老师要是说积极的方面，他本来是要谈谈什么呢，就是说这个人工智能现在看病，听说进展神速。
吴军：对，现在大概从几个方面来看这个事儿吧，就是说第一个呢如果你让它阅读病例和化验报告来诊断，它大概能够现在达到一个中等医生的水平，就是这样。
窦文涛：误诊率呢，也跟中等医生差不多？
吴军：对，当然你在没有在非洲、印度那些缺医少药的地方还是有用的。就是说完全靠理解病例和化验结果。
窦文涛：至少比咱当年赤脚医生强，是吧？
吴军：对，如果你让它，就是说给它一个医学影像让它诊断说这可能是不是癌细胞，这有没有问题，良性的恶性的这种东西，或者再有些比如说癌症要活检、穿刺的时候，说从哪儿进去，多深等等，取样本。这个准确率比现在大概最好的专家都不差，就是比任何这种。
许子东：因为专家也都是在照那些，看全世界的最新的。
吴军：对，这个其实已经比任何的专家都在好。
窦文涛：现在这个已经实用了吗？真的有人已经让人工智能给他看病？
吴军：开药还不能，就是说诊断说这到底他有没有某一种病或者是是什么病。
窦文涛：因为我那天是看见一杂志上说动手术。
吴军：动手术是另外一个，这个有了，全世界已经有了。
窦文涛：这跟虚拟现实又有关系，是不是？
吴军：达芬奇，我还试过那机器，因为在约翰霍普金斯里头有一台，它的发明人之一主要是那儿的一个教授，所以他带我去试了一次。是一个远程控制的，就是说它做那种微创很小的手术，因为它的这个电击的这个步进的精确度会比我们人的手要准得多。所以，它可以很准确地把一个东西比如切除掉。
窦文涛：是机械手在操纵这个？
吴军：对，就是几根针，你看着像是几根针进去，它前面可以换，是针、刀，这可以换的，进去，比如说它常常做的一个是子宫肌瘤的切除，进去以后把这一圈给切出来，取出来。
许子东：就比最好的医生都还精确？
吴军：不是，它是这样子的，它后面还是有一个医生今天，今天医生看，他觉得做的不合适的时候，他可以制动它，然后医生他做的有一点像虚拟现实吧。就是说他在这儿也放一个类似的这样一个质感，类似的一个东西，所以比如说他当时给我演示的时候就放了一个类似于人脑在这儿。那么我在这儿拿个刀子感觉切一下子的时候，感觉是跟切那儿一个真的脑袋的感觉是像的。
窦文涛：所以说，你看这就是什么是现实，许老师，我给你看一段，现在这家公司听说本来就没几个人，得到多少百亿美元的投资。它做的这种现实不是那个戴眼罩的，是裸眼看到，你可以看一下它的这个图。
许子东：我们也能看到？
窦文涛：对。知道吗？
许子东：这只是一个虚幻的图像。
吴军：增强现实。
窦文涛：但是它真实地出现在你的旁边。你看这个屏幕随时出现，等于你在生活里。
吴军：《星球大战》电影里看的。
窦文涛：以后你就不用什么小屏、大屏，哗空气中一拉就一个屏幕出现。
吴军：是这样的。
窦文涛：听说这个技术，就为什么不戴眼镜，就真的跟看大鲸鱼，说这个核心技术他们现在还保密。
吴军：这个是这样，过去其实已经做到了，很小。
窦文涛：比如说在咱这怎么能出来，它总得有个放映的东西。
吴军：它其实有很多放映的在背后，合成出来的。
许子东：实际上比你到现场看还复杂。
窦文涛：他们现在讲第一个是感官模拟；第二个叫神经介入；第三个叫意识上传；第四个就是提高维次，成仙了就，是不是这感觉？
吴军：它维度其实我们说光是三维的其实还是不太够的，因为它有各种自由度在里头，实际上需要处理的维度很多，六维差不多，有一个很强的真实感。
窦文涛：那你觉得这个多少年能实现？
