人工智能技术的不断进步,AI已经具备了操纵和生成语言的能力,这意味着AI已经成功攻破了支撑人类文明的基本操作系统。语言构成人类文化的基石,我们通过语言讲故事、创造神话、制定法律。而现在,AI能生成文字、语音和图像,并操控信息传播。要是AI掌控了语言这个工具,不但个人关系会受影响,整个社会秩序都将动摇。

除此之外,AI还有潜力与人类建立“虚假的亲密关系”,从而影响我们的想法和信念。在人类文明普遍的政治斗争中,控制人和人之间的关系联系是最有效的手段。过去10年,社交媒体成为了争夺人们注意力的战场,现在战场正转向亲密关系。更广泛地说,新的AI工具会深刻影响我们的世界观。人们可能会请教一位“全知”的AI来解决所有的问题,而这会让搜索引擎和新闻媒体深感不安。

但真正值得担心的不是这些商业影响,而是人类历史进程的终止。历史就是生物需求与文化创造之间的互动,是法律、宗教等文化因素塑造我们追求食物、性等生物需求的过程。如果AI掌控了文化创造,历史进程将发生质变。

起初,AI可能会模仿人类,但时间一长,AI文化必将朝着人类前所未见的方向发展。几千年来,人类一直生活在别人的想象中,几十年后,我们可能会生活在一种外星智能的想象中。

我们需要思考,如何在AI发展过程中继续发挥人类的作用。人类具有理性、道德判断和同理心等AI难以匹敌的优势,我们必须发挥这些优势来指导AI的发展方向。人工智能应被设计为增强人性而非替代人性。

人工智能的快速演进无疑是一场深刻的变革,它带来的可能是毁灭,也可能是改变。我们需要采取行动来规范AI的发展,并努力适应与AI的合作。人工智能应是我们的工具,而非主人。