AI发展的两种主要风险是什么，诺贝尔物理学奖得主Hinton最新解读｜中企荐读

主要观点总结

本文报道了杰弗里·辛顿关于人工智能风险的观点和主张。他呼吁在AI安全发展方面投入更多的研究，特别是大公司至少要把三分之一的资源投入到安全研究上。此外，他还讨论了人工智能的两种风险，一是滥用人工智能，二是人工智能变得过于聪明而脱离人类控制。同时，他也提到了诺贝尔奖奖金的使用以及他对Water First慈善机构的捐赠。

关键观点总结

关键观点1: 杰弗里·辛顿呼吁在AI安全研究方面投入更多资源，特别是大公司需要投入至少三分之一的资源。

辛顿强调了人工智能的两种风险：滥用和变得过于聪明而脱离人类控制，并指出需要更多的安全研究来应对这些风险。他认为大公司有资源和能力来推动这项研究。

关键观点2: 杰弗里·辛顿讨论了人工智能的短期和长期风险。

他提到了滥用人工智能的具体例子，如利用用户数据制作虚假AI视频和网络攻击。他还谈到了长期风险，即人工智能可能变得过于聪明，虽然目前无法预测具体的时间表和结果，但各国应该合作应对这一潜在威胁。

关键观点3: 杰弗里·辛顿对人工智能的发展持乐观态度。

尽管存在风险，但他强调了人工智能的潜在益处，如在医疗保健和教育领域的应用。他还谈到了与马斯克的对峙以及诺贝尔奖奖金的使用情况。

免责声明