基辛格遗世之作：AI 吞噬世界下的人类

主要观点总结

文章讨论了人工智能时代人类与机器之间的界限模糊问题，以及人类需要重新界定自身属性以适应机器学习的必要性。文章还提到了尊严的定义对于人工智能时代的重要性，以及如何定义和维持人性的核心要素，使其成为人工智能理解人性的基准。同时，文章也讨论了人工智能带来的挑战和机遇，包括如何使人类智能和机器智能相互赋能的未来，以及如何在人工智能时代寻求共同的人类概念。

关键观点总结

关键观点1: 人工智能时代人类与机器界限模糊，需要重新界定人类属性以适应机器学习。

随着机器越来越多地具备人类特质，人类需要更明确地指出与机器的区别。为了避免被降格或取代，一些人希望通过接近人性与神性来证明与众不同，而另一些人则希望得出战术性结论以决定哪些决策可以交给机器。尊严的定义将是核心，因为它将帮助人类回答某些问题，并鼓励与人工智能实现包容性共存。

关键观点2: 尊严的定义在人工智能时代具有重要意义。

尊严的定义支撑着人类的脆弱和失败的可能性，赋予我们活力、自由和彰显我们信念的能力。尽管尊严的定义可能并不完美，但它仍然是我们理解人工智能时代人类属性的重要基础。

关键观点3: 人工智能时代的挑战和机遇并存。

文章指出，如果每个人工智能决策都必须由人类进行战术控制，就无法获得人工智能带来的益处。因此，以人类道德为基础进行战略控制，同时将战术控制权交给更大、更快和更复杂的系统可能是人工智能安全的未来方向。此外，开发人性化（或人道）的人工智能是我们的首要任务，但同时也需要认识到“人造人类”的潜在作用。