OpenAI 创始人奥特曼新文:温和奇点已降临,2030 年人类命运大转折(4) / BTC123 | 区块链信息行情第一站

OpenAI 创始人奥特曼新文:温和奇点已降临,2030 年人类命运大转折(4)

06-11 , 15:04 分享新闻

超级智能大脑,任重道远

巨大的机遇,也伴随着严峻的挑战。

我们固然需要从技术和社会层面解决安全问题,但鉴于其巨大的经济影响,让超级智能得到广泛普及也至关重要。

最佳路径或许是这样的:

首先,解决对齐问题(alignment problem)。这意味着必须能强有力地保证,AI系统会朝着人类集体长远追求的真正目标去学习和行动。

社交媒体的信息流,便是目标错位的AI例子:背后的算法极其擅长让你不停刷新,也清晰地洞察你的短期偏好,但它之所以能做到这一点,是利用了你大脑的某种机制,而这种机制会凌驾于你的长期偏好之上

然后,专注于让超级智能变得廉价、易得,并且不过度集中于任何个人、公司或国家。

社会是富有韧性、创造力且适应力极强的。如果能驾驭人类的集体意愿和智慧,那么尽管会犯下许多错误,有些事态会变得非常糟糕,但我们终将快速学习和适应,并利用这项技术实现效益最大化、风险最小化。

在社会必须划定的宽泛边界内,给予用户充分的自由,这一点似乎至关重要。全世界越早开始探讨这些边界,以及定义集体对齐(collective alignment),就越有利。

整个行业,而非仅是OpenAI,正在为世界构建一个大脑。

它将是高度个性化的,人人皆可轻松使用;我们唯一的瓶颈,将是好的创意。

长久以来,创业圈的技术人员总是取笑那些「点子大王」——他们有想法,却需要找团队来实现。但在奥特曼自己看来,这些人即将迎来自己的高光时刻。

如今,OpenAI扮演着多重角色,但首要身份,是一家超级智能研究公司。

前路漫漫,任重道远,但大部分道路已被照亮,未知领域正迅速消散。能够投身于我们所热爱的事业,我们倍感荣幸。

「廉价到无需计量的智能」已触手可及。这番话听起来或许很疯狂,但倘若我们在2020年就告诉您世界将是今天的样貌,那听起来恐怕比我们眼下对2030年的预测还要疯狂。

愿我们能平稳、指数级且波澜不惊地迈向超级智能时代。