(图片来源:视觉中国)
经济观察网 记者 欧阳晓红 2023年渐入尾声,却高潮迭起,悬念迭出。AI时代的人类未来何去何从?
那一刻,融于公司权斗的历史转折点或乍现,入局者浑然不觉:AI和大数据不仅仅是技术的问题,更是关乎未来之选择。人类选择什么样的未来?是被技术所驱动,还是以人为本?是被数据所束缚,还是用数据释放潜能?算法即权力(Algorithm is Power)吗?
11月17至22日,从OpenAI公告罢免山姆·奥特曼(Sam Altman)到OpenAI员工签署的联名信持续发酵,伊尔亚·苏茨克维(Ilya Sutskever)道歉,奥特曼同时展现善意;再到OpenAI在社交媒体上宣布奥特曼再任CEO,并重组董事会;一场价值观冲突横亘眼前,即“有效加速派”Vs“超级对齐派”,后者旨在令超级智能与人类价值观和认知保持一致。
如果回溯这144个小时(6天),人们可能会以为资本赢了?前者暂时胜出。
已然入局的我们,尚未意识到这一刻的到来。愕然站在堪称AI元年的2023年尽头之知识边缘,凝视技术的“深渊”——这个深渊是充满未知的人工智能和大数据的世界,一个既充满无限可能性又隐藏着未知风险的新领域(无人区)。
凝视技术深渊之时,我们也在凝视自己。骤然步入智能数据时代,必将面临前所未有的挑战。AI之决策过程仿如一个黑箱,如何确保其公正和透明?大数据收集和使用触及隐私的边界,如何平衡效率和个人权利?智能化的进程也带来了就业结构的变化,如何迎接变化?
道德的指南针指向何处?不过,人类AI史上的这个“惊险时刻”之尘埃尚未落定;11月24日(感恩节),奥特曼在社交媒体上发文:和Quora CEO亚当·德安杰洛(Adam D'Angelo)度过了美好的几个小时;而截至目前,OpenAI官网的最新消息仍然是11月17日的奥特曼出局公告,但11月22日,OpenAI在社交媒体上的推文则是:已就奥特曼恢复CEO职务原则上达成一致,奥特曼将回到OpenAI担任CEO。
当日,Sutskever转发了这条推文,并称“我幸福到无以言表”;稍早些时候,Sutskever在社交媒体上罕见发声“我对自己参与董事会的行动深感遗憾。我从来没有想过要伤害OpenAI。我热爱我们共同建立的一切,我将尽一切努力让公司重新团结起来。”
“你为何采取如此激烈的行动?如果 OpenAI正在做一些对人类有潜在危险的事情,世界需要知道。”就此推文,马斯克回复称。而奥特曼则表示“期待着重返OpenAI”。
本质上,此次事件的走向或取决于OpenAI首席科学家、鲜为人知的OpenAI之父——Sutskever的最终选择;尽管目前资本斡旋的力量有目共睹。
“确保通用人工智能(AGI)造福全人类”是OpenAI的使命,但机遇和挑战并存的时代,如何确保技术的发展不只是为了技术本身,而是为了提升人类的福祉?为了一个更加公正、可持续的世界。我们需要全社会的智慧,来共同决定智能时代的方向。
然而,Sutskever对奥特曼公开致歉,亦令奥特曼的“出局”原因扑朔迷离,被“拉来”的OpenAI空降CEO埃米特·谢尔(Emmett Shear)发文称,OpenAI董事会并未因任何安全的具体分歧而罢免奥特曼,“其理由与此完全不同。”并表示接任后会聘请独立调查员调查导致奥特曼被撤职的具体原因。
一不小心,前沿组织OpenAI之“宫斗”就可能演绎出AI时代的三岔路口。
不妨对话ChatGPT,试图探寻一条技术发展与社会伦理和价值观相一致的平衡之路。
OpenAI之魂
经济观察网:OpenAI在刚刚过去的一周多发生了戏剧性的变化,请问Ilya Sutskever将继续待在OpenAI担任“守护者”,还是从此离开董事会,不再对GPT的发展“指手画脚”?技术为王的OpenAI的灵魂人物是谁?
ChatGPT: 截至2023年,Ilya Sutskever是OpenAI的联合创始人、董事会成员和首席科学家。他在深度学习领域做出了多项重要贡献,并与Alex Krizhevsky和Geoffrey Hinton共同发明了卷积神经网络AlexNet。Sutskever还是AlphaGo论文的众多合著者之一。
在2023年,他宣布将共同领导OpenAI的新项目“Superalignment”,该项目旨在四年内解决超级智能体的对齐问题。Sutskever是控制OpenAI的非营利实体的六名董事会成员之一。在Sam Altman被解除CEO职务后,Sutskever在一次全体员工会议上表示,解雇Altman是“董事会履行其职责”,但在随后的一周,他对参与Altman的解职表示遗憾。
至于OpenAI的灵魂人物,这个问题比较主观。OpenAI由多位杰出的科学家、工程师和企业家共同创立,包括Ilya Sutskever、Greg Brockman、Sam Altman等。每位创始人和主要成员都以自己的方式对OpenAI的发展作出了重要贡献。在技术领导方面,Sutskever作为首席科学家,无疑在OpenAI的技术发展和创新方面发挥了关键作用。
经济观察网:Ilya Sutskever几乎是AI圈子里履历完整,人人艳羡的天才,但他的理念与Sam不一致;一个是理想主义者,一个是现实主义者;他们之间的分歧对人类未来发展意味着什么?
ChatGPT:Ilya Sutskever和Sam Altman在OpenAI的角色和理念上可能存在差异,这在技术创新和组织领导中并不罕见。Sutskever作为一位在人工智能领域具有深厚背景的科学家,可能更倾向于理想主义和科学探索的方向。而Sam Altman,作为一位企业家和投资者,可能更倾向于现实主义和商业实践。
这种分歧在技术发展和组织管理中是常见的,通常可以带来以下几个方面的影响:
创新与实用性的平衡:理想主义者和现实主义者之间的合作可以帮助确保技术既是前瞻性的,又能够实际应用于解决现实世界的问题。
决策过程:理想主义和现实主义的不同视角可能导致在战略决策和优先事项上的分歧,这可能影响公司的发展方向和速度。
组织文化和价值观:领导层的不同理念可能会影响整个组织的文化和价值观,从而影响其吸引人才、内部合作和对外形象。
对外界的影响:在人工智能这样一个具有广泛社会影响的领域,领导者的理念不仅影响公司内部,也可能影响整个行业的发展方向,甚至是公众对于AI技术的看法和接受度。
在Sutskever和Altman的案例中,他们的不同可能会导致OpenAI在追求科技创新的同时,也在寻找商业化和实际应用的最佳途径。这种动态平衡可能对人类未来的发展产生深远的影响,特别是在人工智能的伦理、安全性和社会影响等方面。
经济观察网:“这是人类最后一战”,Sutskever暗示,他在圣城耶路撒冷长大,是与AI对视最久的人类;有人说,他是一个不谙世事的执剑人。他为什么如此担忧人类的未来?
ChatGPT:Ilya Sutskever的担忧关于人类未来可能源于他在人工智能(AI)领域的深入工作和研究。虽然我没有具体的信息表明Sutskever是一位宗教徒或他的宗教信仰如何影响他的观点,但可以推测,他的担忧可能与以下几个方面有关:
AI技术的快速发展:AI技术的进步正在以前所未有的速度发展,这可能带来重大的社会、经济和伦理挑战。Sutskever作为AI领域的领军人物,对这些潜在的挑战可能有深刻的理解。
超级智能的风险:一些AI专家担心,未来可能出现超越人类智能的AI系统(即超级智能),这可能导致不可预测的后果,包括对人类自身的威胁。
伦理和安全问题:随着AI技术的应用越来越广泛,如何确保这些技术的安全、公正和伦理性成为一个重要议题。Sutskever可能对这些问题的解决方案感到担忧。
人类的未来角色:随着AI在各个领域的应用,人类的角色和工作本质可能发生根本性的变化。这种变化可能对社会结构和个人生活产生深远影响。
技术与人性的关系:作为一个在技术前沿工作的人,Sutskever可能对技术如何影响人类的本质、价值观和未来发展有着深刻的思考。
综上所述,Sutskever的担忧可能