OpenAI首席科学家Ilya Sutskever在最近的一次专访中发表了许多令人震惊的看法。他认为，ChatGPT背后的神经网络可能已经具备了一定的意识，未来人类可能与人工智能融合，形成全新的形态。他目前的工作重点，已经不再是创建那种必然会出现的通用人工智能（AGI），而是着重思考如何让AI更好地服务于人类。
这番言论使得“ChatGPT可能已经有了意识”这一话题迅速登上了微博热搜。
在采访中，Sutskever指出，目前的首要任务已经不是开发下一个版本的GPT或DALL·E，而是研究如何防止超级人工智能的失控。他对未来的展望显示，超级AI可能会带来潜在风险。
他提到，人类未来将会与机器融为一体。OpenAI的目标，正是要带领一个“超级对齐”团队，为人类与AI共生的未来保驾护航。某种程度上，这回归了OpenAI成立时的初心——确保AI能真正为人类服务。
OpenAI的幕后英雄——Ilya Sutskever
在旧金山Mission区一条不起眼的街道上，Sutskever在公司的一栋办公楼里接受了采访。他探讨了即将颠覆世界的技术发展，以及为何构建OpenAI的下一代生成模型已经不再是他的工作重点。
Sutskever表示，他现在的重心不再是开发新的GPT或DALL-E，而是想办法防止他所设想的那种能够超越人类智能的未来技术的失控。他认为，某天很多人类将选择与机器融合。
尽管Sutskever的观点听起来颇为前卫，他的论述却比他两年前的看法更为理性。他指出，ChatGPT已经改变了公众对技术的期待，将许多曾经看似“不可实现”的事情变为“比你想象中更快实现”。
在谈到通用人工智能的可能性时，他表示：“重要的是，现在这个发展方向已经出现，”并预测，“人类在某个时间点一定会拥有AGI。也许OpenAI会构建它，亦或是其他公司会做到。”
年轻的AI研究人员如何改变世界
Sutskever曾是图灵奖得主Hinton的学生。2000年他拜入Hinton门下时，大多数AI研究人员认为神经网络已无前途。但Hinton并不认同这一观点。他当时已开始训练小型模型，用于生成短文本字符串。
Sutskever承认，这一发展是生成式人工智能的开端。2012年，他与Hinton和另一位研究生Alex Krizhevsky共同构建了名为AlexNet的神经网络，该网络在识别照片中的物体方面表现远超当时任何其他模型，成为深度学习的“爆发时刻”。
当时，英伟达向多伦多团队提供了一些GPU，但他们希望获得最新款GTX 580芯片，而那时这款芯片几乎买不到。他们惊讶地发现，Sutskever从多伦多开车到纽约，成功购得一车GTX 580。
“我不知道他是怎么做到的——我很确定每位用户只能买一个。但显然，他的后备箱里装满了整个GTX 580，”黄老板说道。这些芯片为AI的崛起奠定了基础。
AlexNet的成功吸引了谷歌的关注，Sutskever因此加入了该公司。在谷歌，他展示了深度学习在数据序列（如单词、句子和图像）中的模式识别能力。
随着Sutskever的变动，2014年他成为OpenAI的联合创始人。在10亿美元的支持下，这家公司自成立之初就将AGI作为目标，尽管当时很少有人认为这一目标能迅速实现。
ChatGPT的惊艳发布
去年11月，OpenAI推出了ChatGPT，包装了现有技术，彻底颠覆了整个行业。然而，Sutskever坦言，发布时公司内部的期望低得可笑，“我当时并不知道这样的产品会受欢迎。”
他回忆说，“当我们制作ChatGPT时，我并不觉得这个东西有什么特别的。问事实问题时它时常给出错误答案。”他原本认为这个产品不会有人使用，甚至当时觉得没什么意思。
然而，ChatGPT的便捷性超出了所有人的预期。将大型语言模型包装于一个易于访问的界面，任何人都能使用，让公众首次看到了OpenAI所构建的产品在现实中带来的魔力。
“第一次使用时，几乎像是通灵的体验，感觉计算机真的理解了我在说什么。”Sutskever总结道。它在不到两个月内便吸引了1亿用户，改变了公众对AI的认知。
首席执行官Sam Altman当时在不同国家之间频繁访问，与政客和各界人士积极交流，推动AI的普及。Sutskever则是在幕后默默耕耘，关注未来的潜在风险和机遇。
神经网络的意识
Sutskever坚信，关于尚未登记的技术的讨论是一件好事，它促使更多人反思自己所认为理所当然的未来。“AGI可以实现很多令人惊奇的事情，例如自动化医疗，为人类根治疾病和解决全球变暖，”他说。然而，他也承认，许多人对AI公司的管理能力感到担忧。
Sutskever解释道：“AGI并不是一个科学术语，而是一个有用的标准或参考点。如果人类能做到的事情，AI也能做到，那便是AGI。”
虽然有很多研究人员对AGI的实现持怀疑态度，但这一愿景一直激励着他。他将神经网络与人类大脑的运作方式进行了类比，认为两者都能接收信息并基于一定的过程做出反应。
当他谈论AGI时，他将其视为一种实现人类愿望的工具，“你可以在AGI面前许下愿望，而理想中的AGI能够帮你实现。”
追求超级对齐
与许多人探索如何让机器与人类智能对等不同，Sutskever则在为能够超越人类能力的机器做准备。他将这种现象称为“超级人工智能”，认为这种智能会更深入地理解世界，发现人类无法察觉的事物。
他以AlphaGo为例，这款围棋AI在2016年以4-1的比分击败了世界顶级棋手李世石，展现了超越人类的智慧。尤其在第二场比赛中，AlphaGo下了一步让人误解为昏招的棋，实际上却是历史上前所未有的制胜之招。
这种对洞察力的讨论使得Sutskever与OpenAI的同事，一起成立一个专注于“超级对齐”的团队。对齐意味着确保人工智能系统能够按照人类的意愿行事，而“超级对齐”则是在面对未来技术的挑战时，确保其在比人类更聪明的情况下仍能为人类所控制。
Sutskever表示，AI研究人员正致力于这一未解决的问题，确保未来超级智能的安全性和可靠性。他期望设计出一种系统，能够像父母般对待自己的孩子一样，关怀和保护人类。
“在我看来，这是黄金标准。没人会否认人们对孩子的关心。而一旦我们克服了无序人工智能的挑战，问题就来了——在一个拥有更智慧的人工智能的世界中，人类还能否继续生存？”Sutskever提出了这个重要的疑问。
他思考道，未来可能会有许多人选择与人工智能融合。起初只有最勇敢和冒险的人愿意尝试，然而，随着时间的推移，可能会出现更多的跟随者。无论如何，这一切都显示出人工智能未来发展的无尽可能性。