来做一道选择题吧：最好的员工是什么样子的？
a) 可靠的员工：能够准确、快速、高效执行任务。
b) 不可靠的员工：可能会、也可能不会喜欢按别人的指示去完成工作。
如果你认为这个选择的答案显而易见，并且答案 (a) 是可靠的选择，请再考虑一下。因为这实际上取决于指导员工的人的技能。
可靠的员工将有效地扩大优秀领导的明智决策，但不幸的是，可靠的员工还会无限放大决策者的愚蠢。
当对领导唯命是从的员工全心全意地贯彻不称职的决策者设定的目标时，事情会变得很糟糕。
决策者的素质至关重要！若领导不称职或堕落腐化，有不可靠的员工是一种福气。
如果你是傻瓜，那么最好的选择是不可靠的选择 (b)：没有什么需要做，领导也愚蠢无聊。
计算机是极其可靠的员工，它们能以惊人的速度大规模达到你的要求。
接下来宣布一个坏消息！计算机是极其可靠的员工。他们只会按照要求去做。不会多做，但也不会少做。他们不会自己思考。他们根本不思考！除了你提出你想要的，它们什么都不想要。（事实上，神经科学家把动机-渴望作为一种生物特权来探讨。探讨一台机器真正想要什么毫无意义。）如果你告诉计算机要向世界说“你好”一百万次，那么你将不会收到任何抱怨。希望人类完成同样的任务吗？没门儿，人们本来已经无聊至极了。
与机器相比，人类不那么可靠。如果你选择一项人类和机器都有能力出色完成的任务，并将其分配给1,000台机器和1,000个人，人类团队如果不能拥有最佳总成绩，那么钱就不能付给人类了。这就是机器更可靠的原因。
如果你最关注单个级别的性能或模型的复杂性，那么可能会错过一个重要的概念：系统层面激励的复杂性。
大家都是珍贵的雪花，并以自己的方式变得不那么可靠。每个人都需要付出毕生努力来“耕耘”，而且没有任何两个人从周围的环境中获得同一系列的输入。其结果是，员工们的各种激励措施令人眼花缭乱——从陪孩子玩耍到去买垃圾食品，甚至有时看起来很忙。由于他们的不可靠行为朝着不同的方向发展，会及时阻止决策者的错误决定。
由于人类的不可靠行为朝着不同的方向发展，会及时阻止决策者的错误决定。
这就是人们通常不会像机器那样有效地深入领悟领导意图的原因。（也就是说，如果人类的排列方式像铁屑和磁铁一样，历史证明，人类有能力应付一些可怕的事情。）
计算机系统倾向于遵循更为简单的激励机制，因为这些激励机制是由构建它们的人类决定的。作为思想简单的生物，人类倾向于选择诸如“最大化收益”或“准确识别猫”的目标。如果人类想要花哨的话，也许会同时结合两个或三个。
如今的应用程序背后是大量遵循相同简单命令的机器。
与此相比，地球上所有不同的思想家都遇到了各种激励机制，他们都朝着不同的方向发展。在叛变的边缘，甚至某个个体单一的大脑也充斥着竞争目标的范围。一个开发人员如何着手制作这样的系统？或许机器辅助的超复杂激励设计将是下一个重要的拟人化智能 (hli) 突破的源泉。除了猜测之外，如今的应用程序背后是大量遵循相同简单命令的机器。
技术是扩大人类决策者意愿的杠杆。
谁下达那些命令？负责该项目的人。
因为它总是来自人们并由人们设计，所以所有技术都是设计它的人的愿望反映。有时，这些反映在按下按钮后会停留很长时间，很容易忘记人们在制作按钮时所扮演的角色。它总是按照人们在建造它时要求做的事情来做……这常常与他们希望建造它所做的事情不同，多么令人失望。（开发人员，你现在知道错误是你的错误，而不是计算机的错误了，对吧？）
“秃头老板”是世界末日的四大骑士之一。
技术扩大了人类决策者的意愿。这是一个杠杆，缩放比例越大，杠杆就越大。杠杆变得足以撬动世界时，为什么不允许人类知道使用这些杠杆的人是否能够肩负起达到目的责任？
在过去的几个世纪中，相对来说，糟糕的决策者拥有自我限制能力，因此对领导进行决策技能的培训并没有那么认真。当然，你从小就开始被皇室御用，那么为什么还要打扰其它平民百姓呢？
如今，随着计算机系统的扩展，大家得以接触更多的生活，人们经常会想到，你的花园品种技术产品经理有幸拥有一个更加美好的童年，并且在一个技术推动的世界里，为了准备承担日益增长的责任，不断快速追赶发展步伐，而且并没有做过多工作。
地位太高，技能不够。
最糟糕的是有些领导把决策仅仅看作是肆意挥霍、证明地位的另一种方式。让杠杆够长，“秃头老板”就会成为世界末日的四大骑兵之一。也许是时候重新考虑把决策制定作为一门科学，同时作为一种技能培养。
这与人工智能有什么关系？
到目前为止，我们的讨论通常关于可拓展的技术。它们都不是人工智能特有的。
机器学习/人工智能的优势在于有效且负责任地构建它需要可扩展技术的所有决策技能，然后加上一些其他技能。它更多地是智能决策和愚蠢决策的放大器。
可以将其视为大量涌现的魔术灯。
笔者想到机器学习和人工智能时，就会想到大量涌现魔术灯的。忘掉类人机器人——因为这些技术要强大得多。与传统编程不同，即使你自己无法想出解决方案，它们仍可以解决问题。
人工智能可以自动完成你无法表达的内容。
那是因为它们让你可以通过示例和目标来表达自己的意愿，而不是通过明确的指示，这意味着可以超越人类表达实现自动化。
人工智能代表着人类进步的根本飞跃，但是你还记得每一个慎重许愿的故事的寓意吗？
危险的不是“精灵”，而是不熟练的许愿者。
在这些故事中，危险的从不是瓶子里的“精灵”，而是不熟练的许愿者。“精灵”的魔力对人类而言可能是巨大的福音，但取决于你所指向的方向。如果人类被赋予了巨大的力量，那么笔者更担心大量善意的流浪汉而不是好莱坞漫画中的恶棍（严重的精神病着实罕见）。
与传统编程相比，机器学习/人工智能以那些更接近魔术灯故事的样式来表达你想要的内容。
从本质上讲，机器学习/人工智能范式是一种与机器通信的新方式。与传统编程（分步说明）相比，机器学习/人工智能用更接近那些魔术灯故事的方式（目标和示例）来表达“精灵”的需求。
你将与数据进行大规模通信的能力交给缺乏思考的通信者时，会发生什么？
人工智能的可怕之处不是机器人，而是人类。
一个机器学习/人工智能系统要么测试失败，什么也不交付（因为“精灵”太无能了，把灯送回阁楼）；要么测试通过，并交付正如决策者所希望的。不是决策者想要或希望的东西，而是决策者明确要求的东西。如果他们的愿望很愚蠢的怎么办？
测试机器学习/人工智能系统可以保护你免受无效“精灵”的伤害，而不是免受愚蠢愿望的伤害。
如果你有以下想法，你应该感到害怕：“我从不做老板要求我做的事情，我做老板真正想要的事情。”
请降低希望，多进行培训。
你的意思是说老板不懂得如何承担起许愿的责任。让他们负责机器学习/人工智能项目实在是一场灾难。相反，他们需要培训或待在不会受到任何伤害的安全地方（受到保护的地方？）。你要不目不转睛地盯着他们，他们就会要求人工智能系统尽可能多地制作回形针。
现在需要比以往任何时候都更加努力，以确保参与决策的人员都有肩负起决策的能力。
可能那些许的愿望会带来意想不到的后果的是最危险的许愿者，从而避开脆弱的安全网。即使许愿者的意图很好，但如果他们不能对所要寻求的东西考虑周全，那么他们就很危险，如此一来，愿望的精神与要求相符。强大的力量伴随着巨大的责任……要智慧地使用这种力量。这需要技巧，而不仅仅是目标。但是如何为人工智能时代建立负责任的许愿技能呢？花时间并找到这样的领导。
可扩展的技术就像不断加长的杠杆一样，同时也不能忘记，手持杠杆的是决策者。
强大的规模化技术变得越来越容易使用，因此，比以往任何时候都更重要的是认识到它们已经吸收了多少人为因素。
如果你习惯责怪无生命的物体，那么也是无济于事的。睁开眼睛，看着机器后面的人。
如果你担心人工智能，不要担心个人或机器人。你会担心规模、速度、覆盖范围和寿命。工具效果的规模越大，就需要更加小心地使用它。你的决定影响的人越多，职责就越大。
我们是否需要害怕在人工智能发展中的人为疏忽？基本不需要。
我们相信人们可以学会负责任地建立安全有效的系统，不断进步并改善周围人们的生活。
这与智商无关，与加强并选择建立一些新的精神肌肉有关。一旦人们意识到某件事值得认真对待时，这些事情总会让你印象深刻。想象一下要向从未见过汽车的人讲解高速公路。（“您要走多快？！和周围的人在一起吗？大家如何生存？”）以某种方式，大多数人设法获得安全的驾驶技能……尽管目前显然不知道如何正确行进。
同样如果你有意愿，可以提高自己的决策能力。这些东西可以学会。这就是我（以及一些像我的人）选择加倍努力，并为培养新一代决策智能技能的领导做出贡献的原因。
如果教人们如何制作魔术灯，那么还必须负责任地教许愿技巧。否则，大规模的应用将带来巨大问题。
决策智能是一门新兴学科，涉及在选项之间进行选择的所有方面。作为一项兴起的运动，它建立在以下认识之上：如果教人们如何制作魔术灯，那么还必须负责任地教许愿技巧。否则，大规模的应用将带来巨大问题。
如果你的团队在项目开始时就没有办法负责，那么所有宏图伟业都没有意义——最终只会产生毒垃圾。另一方面，如果训练一些有能力领导，那么人类将会感到前所未有的轻松和满足。在有能力的决策者的领导下，可扩展的技术可以帮助我们解决人类面临的一些特大问题。
人们花了很长时间来解决简单的问题，从简单的意义上说，可以全神贯注地解决问题。简单并不能解决所有问题，因此是时候在其中添加复杂的解决方案了。人工智能是我们如何将那些低挂的果实推向星空的方法。
留言 点赞 关注
我们一起分享ai学习与发展的干货
如需转载，请后台留言，遵守转载规范