面对人工智能的未来：探讨P(末日)的可能性

　　这篇文章是关于“交易录峰会”(DealBookSummit)的特别报道，吸引了来自世界各地的商业和政策领导人参与。

　　人工智能公司Anthropic的首席执行官达里奥·阿莫代伊给出的数字在10%到25%之间。而联邦贸易委员会主席丽娜·汗认为这一数字是15%。曾在OpenAI担任临时首席执行官的艾米特·席尔最近表示，他认为这个数字在5%到50%之间。

　　P(末日)是通过数学方式表达“末日概率”的术语，一些人工智能研究者用来表达他们认为人工智能可能对人类构成威胁的概率。P(末日)高表示认为人工智能末日的可能性大，低表示认为我们有机会克服。

　　近年来，P(末日)这个词已经进入了主流，不再仅仅在网络论坛上流传。保有公司员工担心新任OpenAI临时负责人席尔提出的p(末日)可能高达50%，因此可能会对工作造成影响。

　　尽管科幻迷早已开始推测机器人篡夺世界的情景，但随着人工智能模型的快速进步，这种威胁似乎变得更加真实。许多AI内部人士也在发出警告，警告称如果没有强有力的监管，人类在未来30年内可能会被人工智能消灭。

　　P(末日)的关键不在于准确性，而在于表明一个人在乌托邦和反乌托邦之间的立场以及对人工智能问题及其潜在影响的关注程度。

　　LessWrong是一个理性主义哲学运动的主题论坛，曾成为P(末日)这个词的传播地。该词后来被有效利他主义者采用，用于推断关于公序良俗的理念。

　　不同人对于P(末日)的看法可能完全不同。有人担心政府和企业不在乎安全措施，导致了高p(末日)的可能性；而另一些人认为科学家和政策制定者会努力预防灾难，使p(末日)的可能性很低。

　　总的来说，P(末日)不仅仅是关于人工智能的，更多是表明我们如何看待人类以及在控制风险的同时如何利用强大的新技术。