赖可 发自 凹非寺
量子位 报道 | 公众号 QbitAI
“著名AI批评家“马库斯又开批了。
Geoff HintonHinton、吴恩达、LeCun、马斯克通通被点名。
他说，Hinton关于深度学习的说法可能会导致放射科医生紧缺；吴恩达预测AI能解决开放式问题是错的；LeCun说强人工智能会出现到现在还八字没一撇；
不止这些，他还说《经济学人》误导报道、IBM沃森过度承诺……
他举这些例子，都为了印证自己的观点：AI宣传中存在大量的信息误导。他认为，这怪研究者和记者，他们都喜欢强调突破性，却不谈论局限性。
量子位把长文重新梳理，看清老马这回到底在批些啥。
Hinton导致放射科医生缺乏？
先来弄清楚马库斯是怎么批评深度学习教父Geoff Hinton的。为什么说是他要对放射科医生的紧缺负责？
是这样的，2016年，Hinton在论坛上打了一个比喻.
放射科医生就像”已经在悬崖边缘的狼，却还没有回头看，没有发现下面已经没有陆地了”。
Hinton建议，现在就要停止培养放射科医生。
两年过去了，马斯库的结论是：Hinton的话惊吓了很多放射科系，结果可能是负面的；目前世界上很多地方都缺放射科医生。
Hinton的话和放射科医师缺乏，这两者之间究竟有啥关系呢。一时之间还真的有点难弄明白。
不过我们可以回到当时现场，看一看Hinton究竟是在什么样的情境下说了怎样的话
在2016年机器学习和智能市场的论坛上，Hinton被提问：你认为最激动人心的事情会是什么？
他就说了上面的那个比方，并且说，
完全显而易见的是，五年内，深度学习能够比放射科医生做的更好，因为它可以变得更有经验。也许是十年内。
完全显而易见的是，五年内，深度学习能够比放射科医生做的更好，因为它可以变得更有经验。也许是十年内。
AI取代放射科医师的争议，量子位以前写过文章：吴恩达被diss了
AI医生难实现
至于AI医疗，马库斯还批评了IBM沃森在2014年过度承诺，如今交付不足。
IEEE SPectrum的相关报道指出，在2014年，沃森公司宣布了要研发AI医生的目标。公司承诺，首个健康护理的商业服务，将在18到24个月实现。
而在2016年，和MD安德森癌症研究所等机构合作的项目却受挫。提供的服务被认为不可靠。
沃森的一些专家也意识AI在医疗方面的局限性。比如其卫生保健和生命科学研究副总裁Ajay Royyuru，他表示
诊断不是要去的地方,这是专家们做得很好的事情。这是一项艰巨的任务，无论您用AI做得如何，它都不会取代专家。
前不久，在北大医学院举行的，医生和AI工作人员共同出席的“智慧医疗，潜力与挑战论坛上”，双方对于AI在医疗中扮演什么样的角色也做了类似的讨论。
腾讯优图实验室医疗AI总监郑冶枫表示，他们目前的关注的场景大多还是AI辅助医生。
医生培训非常重要，AI是一个新的工具出来，不可能不培训直接用。医生需要用个半年一年，摸透它的脾气了，什么情况下，会更准确，而不是简单的把AI的结果加一点信息，需要一个熟悉的过程。
而在使用流程上，他们也会做相关设置，避免医生过度依赖AI。
有时候，在具体场景中，比如当天医生就直接把AI的结果交上去了，这肯定是不行的。我们在流程上是可以做的，医生必须读一遍片子，读完了，我再给出我的答案。而不是我直接给出答案，你在这上面改，这个容易被医生用偏。这样可以避免一些误用。
而清华大学临床医学院院长董家鸿则提出了“人机协同”的视角，
通过人机协同的机制，看协同后产生的效果。基层医生，给了他AI，然后看人机协同之后的诊断率是不是超过原来的水平。任何一个高明的医生的诊断也不可能完全正确，有一个容许的出错率。在这样的条件下，再去评价AI在基层医疗的效用和价值。
批评NLP，怼吴恩达、LeCun
马库斯的批评还集中在NLP方面。首当其冲当然是Hinton，他4年前说过的关于自然语言的话，也被拿出来批评了
2015年，Hinton在接受卫报时曾表示：谷歌正处于开发出有逻辑能力，能自然对话，甚至调情的算法的边缘
4年后，马库斯说
我们距离能够进行自然对话且无需人工干预，确保连贯性的机器还有很长的路要走，没有现成的系统能可靠地推理物理世界。
(反正你的总结都很对）
新旧搭配，他还举了一个最近媒体误导的例子。怎么误导的呢？
是这样，《经济学人》最近对open AI的句子生成系统GPT-2进行了一次主题为2020年的采访，并将人机对话刊登出来，标明了”未经编辑”，给人的感觉是，AI已经可以进行如此连贯自然的对话了，甚至显出了幽默感。
实际上，这种效果是编辑对文本进行编辑和过滤的最终效果，AI对每一个问题给出五个回答，人工从中进行筛选连缀成文。
(有时候，一个细节对理解事实很关键。所以希望大家，以后对所有认真做事实和细节核查的媒体多一丢丢尊重啦～）
马库斯还批评了吴恩达、LeCun 对于AI的能力增长做了过于乐观的判断，比如吴恩达曾经认为AI未来能够解决开放式问题，LeCun 说强人工智能会很快出现。
恩……还有，这种批评名场面怎么能少了马斯克。
他批评了马斯克预言自动驾驶汽车在2020年实现不切实际。
“AI批评家”马库斯
感受了一通批评大拼盘，是不是觉得滋味一言难尽。
他个人网站的介绍是：
加里·马库斯，科学家，畅销书作者，企业家，AI逆势者。
作为批评的惯例，怎能只破不立？换个胃口，看一下他提出了六条“意见”。马库斯提出，在研究者和报道者谈论AI时，都应该考虑到下面六个问题。
1、人工智能系统实际上在做什么？“阅读系统”真的阅读吗？
2、结果有多普遍？
3、有没有感兴趣的读者可以自己探索的演示？
4、如果说人工智能系统比人类更好，哪个人类，好多少呢？（相比之下，低薪工人缺乏良好表现的动力可能无法真正探究人类能力的极限）
5、实际上，成功完成特定任务可以使我们迈向建立真正的AI多远？
6、系统的鲁棒性？无需大量重新培训，它是否可以与其他数据集一样好用？AlphaGo在19x19的板上可以正常工作，但是需要重新训练才能在矩形板上运作。缺乏转移正说明了这一点。
有网友问，
这个马库斯很重要么？他对机器学习或者AI的贡献是啥？
网友答曰：
他的贡献可以总结为，写了一些文章，怀疑AI的人读起来会开心
马库斯写了很多批评AI的文章，量子位之前也都介绍过：
这十大挑战，摆在DL面前：马库斯长文质疑深度学习
“众矢之的”马库斯回应14个问题，将深度学习质疑到底
马库斯：DeepMind新出的机器心智网络不错，但有误导性
但是好像有一句话怎么说来着不因人废言，不因言废人（对的，孔子说的）
网友也说了，谈一谈对文章的不满意比攻击作者更好。
网友评论
尽管我同意马库斯说媒体过度宣传AI，以及研究者应在防止错误信息做得更好，但是他的方式不合理。他似乎沉迷于寻找神经网络(NN)研究者的漏洞。用这种方式，和他进行有益的对话很困难，而且NN研究者也会有防御心态。除此以外，符号学AI太过简单，不能产生AGI，这意味着用NN来完成是有帮助的。研究不是辩论。
文章里援引的例子大多来自2015到2017年的AI炒作期。回溯来看，那是一个有很多突破的时期，比如DQN,AlphaGo,Resnets，有很多目标检测和GAN执行上的突破。人们刚开始基于这些进展进行推断，我不怪他们。没错，进展变得缓慢，但是所有的这些最终会实现。
你知道码字至此的我，内心的OST是啥？
（长这么大，从来没有梳理某个人的长篇批评弄这么久！！）
你看完了有啥感受？请多多评论吧，如果有那么一点点收获，也算欣慰了。（手动比芯芯）
参考链接：
https://w.url.cn/s/AGxr2q4https://worldin.economist.com/article/17521/edition2020artificial-intelligence-predicts-futurehttps://www.youtube.com/watch?v=2HMPRXstSvQ&t=29shttp://garymarcus.com/bio/bio.html
—完—
