前OpenAI安全研究员警告：AI毁灭人类的可能性为20%

　　【御龙天下新闻】此前，马斯克曾大胆放话称，AI能导致人类文明毁灭。此言乍一听确实有一些夸张成分，但是其隐含的警示意味仍然应该引起重视。近日，CNMO了解到，曾担任OpenAI安全研究员保罗·克里斯蒂亚诺发出警告，提醒人们人工智能可能最终会导致人类终结。

人工智能

　　保罗·克里斯蒂亚诺在一个播客节目中说道:“我认为人工智能取代人类的可能性大约为10-20%，我们需要非常严肃地对待这个问题。”他认为，AI消灭人类的最可能方式是将日常生活中部署的所有AI联合起来，而不是突然消灭人类。人类的终结不是一场突如其来的事件，而是人工智能逐渐地崛起，其通过AI控制自动驾驶汽车、无人机等科技领域逐渐毁灭人类。不要觉得这是危言耸听，当AI超越人类智商阈值时，这一切皆有可能。

人工智能

　　此外，CNMO了解到，保罗·克里斯蒂亚诺的新非营利组织Alignment Research Center致力于人工智能对齐的概念，即让机器的动机与人类的动机保持一致。该概念早在2018年就被广泛定义，并被认为对于防止人工智能毁灭人类的可能性至关重要。虽然OpenAI声称，旨在使人工智能与人类价值观保持一致，并遵循人类意图，但这仍需要进行更多的研究和开发，以确保安全地开发人工智能。

　　值得一提的是，此前，被称为人工智能先驱、人工智能教父的杰弗里·辛顿在接受采访时表示，AI对人类的威胁可能要比天灾造成的影响更为广泛。