人工智能（AI）初创企业OpenAI的前高级主管Zack Kass对AI在解决全球问题上的潜力持乐观态度，并阐述了为何他认为世界必须勇于承担一定的成本，以充分释放AI技术的全部潜能。然而，他也警示了一个被业内广泛讨论的观点：AI可能是人类发明的最后一项重大技术。
AI：人类发明的终极篇章？
谈及AI引发的担忧时，Kass透露，许多业内人士都认同一个观点，即AI可能是人类智慧的巅峰之作，从此之后，AI将以惊人的速度引领人类前行，为我们的生活带来前所未有的丰富与快乐，同时减少痛苦。他并不赞同因惧怕AI的风险而拒绝承担其可能带来的好处所附带的成本。
AI对发达国家与发展中国家的不同影响
Kass指出，在短期内，AI对发达国家的影响将尤为显著，尽管这些影响可能令人不适，但实质上是有益的，并能有效减轻我们的工作负担。他对此持欢迎态度，认为AI将使我们能够投身于更有意义和充满希望的事业中。而对于发展中国家，AI则可能意味着每个孩子都能拥有一位私人教师，或每个人身边都有一个AI驱动的家庭医生，帮助他们诊断问题并引导至专业医生处。
AI带来的四大风险
关于AI的风险，Kass列举了四个方面：
-
人类智力退化：若AI解决了我们所有的问题，人类的大脑可能会在一定时期内停止进化。但Kass认为这是一个短期问题，人类终将找到适应之道，正如我们适应社交媒体一样。
-
身份认同危机：对于那些一生或几代人致力于特定手工艺或行业的人来说，AI的突然替代可能会让他们失去身份和目标，这是Kass深感忧虑的一点。
-
对齐问题与存在主义：Kass认为，对齐问题和存在主义是更为核心的担忧。尽管存在主义的想法令人深思，但他相信未来可以训练出符合人类利益的AI模型，并受到最严格的监管。他预测，到2025年或更早，所有发布的AI模型都必须满足国际协调标准，正如我们为核裁军和核电制定的国际标准一样。
-
不良行为者的威胁：这也是一个不容忽视的风险。
最后，Kass强调了建立国际联盟以制定AI合理标准的重要性，这将促使全球参与者共同努力，朝着正确的方向前进。作为OpenAI最初的100名员工之一，以及Go-to-Market策略的负责人，Kass因家庭原因离开了OpenAI，但他的见解依然对AI的未来具有深远的影响。