1. 民营部门

1.1. 障碍最大的一步，与履行协议所需要的人才和技能有关

1.2. 多样性很好，不要过分依赖任何一种资源，因为政府会出于政治原因淡化问题，不尊重科学，甚至退出协议

1.2.1. 民营部门和非政府组织的强大联盟可能在这方面发挥至关重要的作用

1.2.2. 由于不少美国商界领袖支持《巴黎协定》的目标，如果这些商界领袖和公民领袖能够参与谈判，那么特朗普总统退出该协定的可能性也会大大降低

1.3. 就目前的情况来看，很少有人工智能和先进技术方面的问题能够吸引公众足够的注意力，从而为国际治理提供一条清晰的途径

1.4. 唯一的例外可能是自主武器

1.4.1. 军用机器人可以在无人干预的情况下选择和攻击军事目标

1.4.2. 随着视觉识别技术的进步以及小而便宜、快速又低能耗的计算设备的广泛应用，致命自主武器的“自主”部分实现起来越来越容易

1.4.3. 基于无人机的致命自主武器似乎不受军事协议的制约

1.4.4. 自主武器很容易成为大规模杀伤性武器，因为它们便宜到可以一次性使用，可以有效找到特定目标，而且如果人为进行大量部署，它们可以“占领半个城市”

1.4.5. 如幽灵般的小而廉价的“屠杀机器人”

1.4.5.1. 让许多人对人工智能产生了反乌托邦的恐惧，但这确实值得大众和政府关注

1.4.6. 美国的政策禁止致命自主武器自动开火，一部分是因为在计算机代码中，要捕捉到决定何时杀死谁的所有因素极其困难

1.4.7. 对致命自主武器的监管最终可能会为我们将来制定广为接受的治理条款提供一些初步经验

2. 更好的自己

2.1. 如果不能让各方尽可能广泛地参与辩论，形成共同的价值观，并在权力间找到适当的平衡，特别是在政治和商业力量的此消彼长之间把握平衡，那么我们就无法对人工智能建立足够的信任

2.2. 我们比人类历史上的任何时候都更能抑制人性最恶的一面，充分发挥人类的创造力、想象力和探索力

2.3. 我们的人类精神及使命，使我们达到了地球上其他生命都无法企及的高度，我们拥有更大的智慧和力量，但我们并不总是在负责任地利用这种优势

2.4. 我们心怀渴望，希望生活有意义，并希望为我们自己和子孙后代做点儿贡献

2.4.1. 我们中的一些人用极权主义或激进的方式来看待这些事情，但大多数人不这么看

2.4.2. 有时，是那些头脑最迟钝的企业家对我们的生活产生了最大的影响

2.4.3. 有时，是那些行为笨拙的科学家指引我们登上月球、潜入海底，在攀登知识高峰的旅途中永不满足，不断拓宽宇宙、思想和灵魂的边界

2.4.4. 伟大的人类思想家不会休息，除非我们进步与成长，与周围的人建立伙伴关系

2.5. 我们总是在创造的同时毁灭

2.5.1. 我们创造了下一个时刻、下一个月、下一年、下一个世纪的世界

2.5.2. 我们制造了冰冷僵硬的工具，却用它们来建立温暖的社会和情感纽带

2.5.3. 每当我们靠近另一个人来分享一个新的想法或一种新的情感时，我们就会将这种同理心、想象力与创造力深度融合在一起，这让我们能够合作、创新、梦想、爱和创造

2.6. 基于英美原则追求全球化，即商品、服务和资本的自由流动，这导致了许多社会难以承受的失衡

2.6.1. 全球数据经济不再由华尔街和伦敦金融城（也就是伦敦作为金融中心）来引领，而是由数字领域的企业家引领

2.6.2. 全球数据经济的自动化机器将会继续存在

2.7. 新机器也可以进行创造

2.7.1. 它们可以创造未来的模型，而且通常比人类的眼光更好、更有洞察力

2.7.2. 它们可以从大量复杂的数据集和人类大脑无法处理的微妙模式中获得见解

2.7.3. 人工智能系统已经在与我们一起创造世界了，但它们是以一种截然不同的方式来创造的

2.7.4. 它们无法分享人类存在的经验和数百万年的生物进化，因为这些进化在我们的大脑中已被编码，作为人类生存的基础记忆而存在

2.7.5. 这种共享的经验形成了一种机器无法共享的纽带

2.7.6. 我们中的许多人通过各种宗教或哲学信仰来表达这些联系，几乎所有的信仰都是为了公正、正义、关怀和爱而奋斗

2.7.7. 它们从来没有从原始的黏液中爬出来，经历细胞试错、成功和失败、快乐和痛苦、满足和挫折，站在珠穆朗玛峰顶或月球表面，高举它们的手臂，向全人类高呼

2.7.8. 它们的学习并没有被情感强化

2.7.9. 它们的身体并不是为了给大脑提供各种内在和外在的感觉，这些感觉增强了人类与环境的联系以及人类生存和进化的能力

2.8. 机器可能会与我们一起进化成另一个物种

2.8.1. 要避免把大脑想象成简单的计算机模拟的冲动

2.8.2. 大脑的奥秘掩盖了身体的感觉、情感和认知之间复杂的相互作用，以及对构成人类整体的认知

2.8.2.1. 艾伦·贾萨诺夫，《生物心理学》

2.8.2.2. 人类的认知仍然需要与身体和环境进行一系列复杂的互动

2.8.2.3. 人类大脑还处在起步阶段

2.8.2.4. 我们会将一个领域的概念嫁接到另一个领域，尽管这经常会让朋友们皱起眉头或转动眼珠进行思索

2.8.2.5. 我们正在与某个遥远的概念发生奇妙的联系，进而得到某个天才的想法

2.8.2.6. 我们思想的随机波动会让自己捧腹大笑，怀着喜悦的心情锚定疯狂的想法，直到多年以后，当最不经意的事件激发了这个想法时，才会显露出它的古怪

2.8.3. 必须避免落入陷阱，将人类和机器等同起来，把两者作为竞争对手，争夺智能金字塔的顶端

2.8.4. 机器智能和人类智能协同互补比两者过度竞争要强得多

2.8.4.1. 具有神经网络能力的认知机器可以帮助我们成为更有效的传感器和更快的处理器，因此，我们可以建立更多的联系，做出更好的决策

2.8.4.2. 它可以帮助我们构建更强大的科学架构、人类社区或生态弹性

2.8.4.3. 它可以通过模拟难以想象的复杂情况和运行场景来帮助人们制定策略，增强人们选择最佳路径的能力

2.8.4.4. 需要智能机器来帮助人们解决最严重和最棘手的问题，如气候变化、医疗保健以及和平共处，但这也需要我们的愿景、精神、目标、灵感、幽默和想象力

2.8.4.5. 通过与人工智能的分析和诊断能力相结合，我们可以翱翔到新的高度，更深入全面地了解自然，探索更深邃的宇宙，以前所未有的方式在宇宙中树立人类的地位

2.8.4.5.1. 也许是有史以来我们第一次可以实现对人性的渴望，加强环境保护，走出零和游戏，优化我们日常生活中的众多变量

2.8.5. 如果将这些被我们称为人类的感知、感觉和思考的生物的独特贡献与人工智能机器的纯粹认知能力结合起来，那么人们将创造一种共生的智能伙伴关系，它有可能将我们和世界带向新的高度

2.8.5.1. 有些事情可能会出错，我们可能在每个转折点上深思熟虑

2.8.5.2. 钟摆将在极度乐观和深切的担忧之间摇摆不停

2.8.5.3. 我们每前进两步，都会后退一步，并不断重复

2.8.6. 我们丰富的人类多样性将建立起价值观、权力和信任的共同基础

2.8.6.1. 这就是我们在一个智能机器的世界里构建人类未来的基石

3. 通用人工智能

3.1. 奇点

3.2. 人们担心具有通用人工智能的机器可能会主宰人类，这样的恐惧为一些新闻故事、小说和电影提供了灵感

3.3. 通用人工智能的阴霾引发了人们关于人工智能对人类意味着什么的深刻思考

3.4. 无论我们是否实现了通用人工智能，在特定的应用程序中模仿人类智能的狭义人工智能工具正在迅速发展，这导致了媒体所称的“机器和系统中出现了智能行为”

3.4.1. 布满监控的社会正在慢慢形成，也有证据表明，即使最聪明的算法也可能步入程式化，而不是弥补人类自身判断的偏见和缺陷

3.5. 一场信息和不实信息之间的战争

3.5.1. 脸书这样的平台能够将广告和信息定向发送给特定的群体甚至个人，从而影响政治讨论和选举结果，并为全球各地的人们提供新的交流方式

3.5.2. 这些信息和交流往往会占用我们大量的时间

4. 人工智能工具

4.1. 新兴的人工智能工具的泛滥正在加速智能平台和自动化系统的力量增长

4.1.1. 在其核心，所有不同类型的人工智能技术都有一个共同的目标，即获取数据、处理数据并从数据中学习，正是数据量的爆发式增长使得人工智能技术突飞猛进

4.1.2. 至少从理论上讲，长期来看，具有先进的推理和抽象能力的人工智能系统，能够以与人类同级甚至更高的水平来执行原来由人类智能才能胜任的任务

4.1.3. 智能工具和系统正在迅速普及，它们的力量随着人工智能工具的发展而不断增强，改变了商品和服务的创建、生产和分配方式

4.1.3.1. 公司需要调整它们的流程、产品和服务以适应新技术，维持或赢得竞争优势

4.1.4. 在一个人工智能机器和应用程序日益纷繁复杂的世界里，各种可能性和挑战都存在着巨大的不确定性

4.2. 智能工具和系统不会导致技术性失业

4.2.1. 新创造的就业机会将抵消被消灭的旧岗位

4.2.2. 但新工作将与被替代的工作在技能、职业和工资方面有所不同

4.2.3. 自动化将继续偏向高技能型人才，技术转移和丢失工作的最大风险将落在低技能水平的工人身上

4.2.4. 关键问题就是，智能工具和系统所带来的新任务和新工作将如何影响工作的质量

4.3. 推动我们研究的关键在于，技术发展能否以及如何创造并维持高质量的就业机会和高技能工作

4.4. 让经验较少但并非技术水平较低的工人来承担更为艰巨的任务

4.4.1. 当前人类完成的重复性劳动将变为由机器来执行的重复性任务，工人负责监控和评估机器的执行情况

4.4.2. 这一切将不仅取决于技术本身，还取决于劳动者的政治影响力和劳动力市场的法律法规，这些特征在不同国家之间有着明显的差异

4.5. 数字系统本身的基本安全性也构成了重大的经济和社会挑战

4.5.1. 确保其财务、智能和运营资产是至关重要的

4.5.2. 网络安全已经跃升为最大的商业风险，企业需要对系统进行大量投资，以防止竞争对手、个人或政府进行网络攻击

4.5.3. 企业和机构层面的网络安全突然成了网络冲突的一部分，既包括国家之间的网络冲突，也包括作为非政府主体攻击工具的网络冲突

4.6. 为了适应不断变化的科技机遇和挑战，现有各领域的机构，从学校到司法系统，再到国防系统，都需要不断改革

4.6.1. 重新设计教育体系来满足新技术时代的需要，远比简单扩大现有的教育体系、招收更多的学生、延长教育时间困难得多

4.7. 在人工智能工具日益强大的数字时代维护网络安全，防止可能的数字技术滥用

4.7.1. 明确什么是私人网络安全，什么是网络冲突和网络战争中的公共责任，是至关重要的

4.8. 数字化或人工智能系统本身的管理问题

4.8.1. 关于市场竞争、欧洲竞争政策和美国反垄断政策的基本规则，都在逐渐地适应那些拥有全球能力的主流平台玩家，他们有能力塑造我们看待世界的方式，并且控制着海量的信息和数据

4.8.2. 人工智能引擎的黑匣子中隐藏了带有偏见的判断

4.9. 既是一种道德责任，也是一种实际需要，那就是为个人和社区提供社会保护、贡献社会能力，来适应由人工智能驱动的技术变革所带来的巨大变化

4.9.1. 仅仅为那些生活被技术变革破坏的人们提供过渡期必要的帮助，还不足以确保社会、经济和政治稳定

4.9.2. 为那些流离失所的人们描绘美好的未来、创造新的工作机会将是至关重要的

4.10. 人工智能工具和它所支持的系统与平台的发展速度比预想中要快，这要归功于计算能力、半导体和数据存储方面的突破

4.10.1. 那些不接受或者不适应的人可能会被抛在后面

4.10.2. 对国家来说，未能制定有效政策以维持相对公平的结果将与未能采取措施一样具有破坏性