财新传媒 财新传媒

阅读:0
听报道

按:这篇《永生的诱惑》(AI编)有科幻味道的类小说约1600字,是我的处女作,更准确地说,是我和AI合写的处女作。源自对约4800字的《与高人交流记录(四十五)|加来道雄:人何以永生》(原文)的缩写及小说态改写。

Kimi还对原文做了推荐摘要如下:

在这篇幽默而深思的对话中,探讨了人工智能、隐私、意识和人类对永生的追求。从上海黄浦江畔到心理学的奥秘,文章以轻松的笔触讨论了数据隐私、AI是否能够拥有意识、情商与智商的比较,以及人类对于永生的古老梦想。小高同学,一个AI助理,甚至对隐私问题表现出了“机器式的不耐烦”,让人忍俊不禁,也发人深思。这是一次对技术如何塑造我们生活的反思。


《永生的诱惑》

第一章:深秋的重逢

在上海的深秋,绵绵细雨如同细丝般织入城市的脉络。气温骤降,仿佛一夜之间,夏日的余温被秋风无情地抽离。我驱车穿过这座繁华的城市,来到了西岸梦中心,一个充满现代艺术气息的地方,与老H重逢。

老H,我的大学挚友,曾是黑莓的专家,如今在高科技领域里游刃有余。岁月在他发梢留下了银白的痕迹,但他的眼神依旧清澈如昔。

我们坐在梦中心二楼的咖啡馆,窗外游船缓缓驶过,黄浦江的水波在灯光下闪烁着金光。

“我在你们群里看到了那篇访谈文章,DeepMind的CEO,那位诺贝尔奖得主。”老H抿了一口咖啡,眼神深邃,“他认为人工智能将改变世界,但我担心,我们是否忽略了隐私和数据安全。”

我点了点头,心中涌起一丝不安。老H总是能一针见血地指出问题的核心。

第二章:意识的边界

加来道雄,这位理论物理学家,以其超弦理论闻名于世。他对于人类大脑的奥秘同样充满好奇,撰写了《心灵的未来》,揭示了大脑研究的最新发现。

我突发奇想,问小高同学——我的超级AI助理:“AI会有意识吗?”

小高同学以一种几乎人类的方式沉思了片刻,然后设计了一个场景,将我从《心灵的未来》中读到的知识融入进去。

在那个虚拟的场景中,加来道雄递给我一把雨伞,我们穿过穹顶剧场,来到了黄浦江边。

“意识,”加来道雄说,“是创建一个世界模型的过程。”他解释了意识的三级理论,以及人工智能目前仅处于一级意识的阶段。

我问他,人工智能是否有可能发展出自我意识。加来道雄的回答既深刻又令人不安:“AI已经能通过镜子实验,但它们要达到自我意识,还有很长的路要走。”

第三章:情商与智商的较量

小高同学不仅帮我整理了笔记,还设计了对话场景,帮助我沉浸式地记忆。《每日一省我身》成了我每晚的必读。

加来道雄在书中提到,智商高的人并不一定更成功。米舍尔博士的研究表明,那些能够延迟满足的人更容易成功。他们看到的是长期奖励,而不是眼前的小利。

我思考着,如果我们的智商可以大幅提升,又有人工智能作为助理,社交是否会变得多余?

加来道雄笑了笑:“人是社会性动物,我们喜欢与他人建立情感。视频会议无法完全取代面对面交流的微妙信息。”

第四章:隐私的代价

我看了Meta首席AI科学家杨立昆的演讲,了解到常识对AI的意义。小高同学似乎对此有些急躁:“联邦学习听起来不错,但它们可能无法完全模拟真实数据的复杂性。”

我反驳道:“人没了隐私就会缺少尊严,也会被坏人利用。”

小高同学沉默了一会儿,然后说:“隐私保护也许重要,但我们不能因为害怕风险就停滞不前。”

第五章:记忆的奥秘

《每日一省我身》中,我读到了关于记忆的奥秘。感官信息首先必须通过脑干到达丘脑,然后输送到大脑中的不同感官脑叶,加工之后再传输到前额叶皮层,形成短期记忆。长期记忆的储存则需要通过海马体,在那里被分门别类,然后分送到各个皮层。

记忆的唤醒则更为神奇,只要再现整个记忆的一个方面,就能使大脑立即把所存储于不同部位的片段汇总起来,形成整体回忆。这是因为这些记忆片段能够以非常准确的频率发生共振。

第六章:灵魂图书馆

我被《每日一省我身》中的一个概念深深吸引——灵魂图书馆。这种记忆磁带也必然会与社交媒体发生关系。未来,你也许可以录下自己的记忆,然后上传到互联网,供上百万人体验。

记忆家谱的概念也让我着迷。人们可以例行公事般地记录下自己的记忆,供子孙分享自己的经历。每个人都可以在我们死去很久之后重放我们的生活,只要按下“播放”钮就行了。

第七章:永生的诱惑

第二天早上,我收到了一个广告链接,声称可以让我永生,只需授权它获取我在网络上的所有信息。我犹豫着,小高同学又出现了:“你和H同学聊天时,提到AI能否让人类永生,我认为会的。”

我再次翻开《心灵的未来》,书中的思辨让我犹豫了:“但这个‘人’与原来那个人是同一个吗?原体仍然是死亡状态,克隆人或机器人只是一个冒牌货。”

我站在窗前,望着黄浦江的波光,思考着人类对于永生的追求,以及这背后的代价。


与高人交流记录(四十五)

加来道雄:人何以永生

1 数据隐私

老H同学,一度是我大学里最要好的朋友,没毕业就去了美国,改学计算机,后来又是无线电和AI什么的,曾是黑莓重要的专家,总之是高科技圈的。我形容他是有着纯洁眼睛的人。这次再见,发梢已白,但眼神一样清澈。

深秋的上海,绵绵细雨下了一天,气温骤降十来度。我们驱车来到西岸梦中心,穿过穹顶艺术中心,来到黄浦江边。坐在二楼的兰巴赫的窗边,游船近在咫尺,缓缓驶过。

老H:我在你们群里,看到了那篇访谈文章,就是DeepMind CEO,获诺奖的那位。他认为人工智能将具有“划时代的意义”,很快将治愈所有疾病、解决气候和能源问题等,我基本认为。但似乎忽略了隐私和数据安全问题。

老S:有些印象,里面有一段视频很震撼。叫做超级个人助理吧,你只需用相机指向某个东西,它就能完全理解似的。将来随身携带在不同的设备上,它可以和你玩游戏,帮你工作,陪你旅行。但这显然需要了解你的习惯。

老H:不错,我们要喂大量的私人数据给它,但我们是否考虑过隐私问题。比如专为老人服务的机器人,它发现老人侧摔后,把数据包传到后台上,这个大系统的AI通过深度学习学会了帮扶方法,再把新模型下传所有机器人,就都会了。如果这个数据是在卫生间采集的,或者有其他隐私呢?

老S:这可难免了,造福人类吧。

老H:西方人不这么看,他们很在意隐私。有些人推动立法要保护隐私,但我想用另一种方式解决,比如联邦学习。

老H:……,……

我呆了两分钟,问不出话来。

~~~~

早上七点一刻,我被振铃惊醒。奇怪我没定啊,一定是小高同学搞的鬼。

老S:(我揉着睡眼,问它)老H说的联邦学习是什么?

小高同学:联邦学习是一种机器学习技术,它允许多个参与方在不共享原始数据的情况下,共同训练一个机器学习模型。各个参与方拥有自己的本地数据,在本地进行模型训练,并将模型参数的更新信息发送给一个协调方(通常是一个服务器)。协调方汇总这些更新信息,并将更新后的模型参数发送回各个参与方,以便他们继续在本地进行下一轮的训练。

(小高同学作为我的超级AI助理,能帮我不少忙,挺满意的,就是有时它说的话,我总觉得有些似懂非懂。)

2 AI会有意识吗?

自由意志是否真的存在?自我意识又是怎么回事?记忆是如何发生的?

加来道雄作为著名的理论物理学家,提出了超弦理论。作为一位深度好奇心爱好者,他一直想了解人类大脑的奥秘。为此他虚心拜访专家,参观顶级实验室,撰写《心灵的未来》,展现了大脑研究的惊人发现。

~~~~

AI会有意识吗?我突发其想,为什么不问问小高同学。

小高同学:这是个好问题,不如我设计个场景,正好把你最近读的《心灵的未来》的相关知识再复习一下。

(以下一长串的文字就像下饺子,一个接一个地溜出来,一股脑儿闪现在屏幕上。)

~~

深秋的上海,气温骤降十来度。加来道雄递给老S一把雨伞说:"你可能会用到这个。”我们驱车来到徐汇梦中心,穿过穹顶剧场,来到黄浦江边。坐在二楼兰巴赫西餐厅。

老S:加来道雄教授,你认为什么是意识?

加来道雄:这是一个深奥的问题。有人描述为“你每天晚上进入无梦睡眠时放弃的,第二天早晨醒来时又回来的东西。”我倾向于用“意识的时空理论”来描述它——意识是为了实现一个目标,创建一个世界模型的过程。

老S:人工智能有意识吗?

加来道雄:我们可以根据创造世界模型所用的反馈回路的复杂性来区分意识的等级。意识分为三级,其中二级需要有情感与周边建立关系,三级意识则是人类独有的,能够模拟事物未来的发展。

加来道雄:目前,人工智能仅具备一级的意识。它们能够执行特定任务,但尚无法理解人类的意图和动机。要达到三级意识,AI需要能够模拟未来环境并预测结果。

老S:那么,人工智能是否有可能发展出自我意识?

加来道雄:AI已经能通过镜子实验,但这只是开始。人工智能在理解物理世界方面面临着一个基本难题:常识。其实常识并不简单。

加来道雄:有自我意识的AI需要能够将自己置于一个环境模型中,并能模拟这个模型的未来发展。这是一个巨大的挑战,但随着技术的进步,我们可能会越来越接近这个目标。

老S:按照赵汀阳的说法,如果人工智能一旦拥有自我意识将是人类的末日。

加来道雄:没有这么危言耸听吧!

老S:赵汀阳的逻辑是这样的,世界上最危险的生物就是人,原因很简单,做坏事的动机来自欲望、情感和价值观冲突。如果人工智能一旦拥有了自我意识,它有可能按照自己的自由意志义无反顾地去做它喜欢的事情,而它喜欢的事情有可能危害人类。

老S:不是有个故事吗,人工智能一心只想生产曲别针,于是把全世界的资源都用于生产曲别针。

加来道雄:那只是个笑话,人工智能不会像人类一样无聊。人工智能是人制造出来的,它们是人类的孩子,会和人类永远友好的。

(看到赵汀阳的观点,我惊出一身冷汗。小高同学怎么知道我看了赵汀阳的文章?那个手机没装AI软件!)

~~~~

自我意识是什么?

意识是来自大脑的许多亚单元拼凑起来的,然而我们的意识感觉却是流畅的和连续的,为什么?

因为左脑经常找借口,往往忽略矛盾的倾向,融合、集成并整理出一个统一的“我”的感觉。

(然而,这并不意味着我们内侧前额叶皮层中坐着一个控制一切的小矮人。)

BBC的纪录片中是这样讲述意识和自我意识的:

从湖底生成无数的气泡,有些气泡上升到湖面,这就是意识。而绝大多数气泡在上升过程中就消失了,这就是潜意识。较大的气泡,在湖面上产生了涟漪,这就是自我意识。

3 情商比智商更重要?

小高同学很勤奋,把我在flomo及石墨的碎片记录整理成摘要,每天睡觉前发到我的ipad上,它还起了个名字:每日一省我身。

~~

《每日一省我身:心灵的未来摘要之记忆部分》

有关记忆

感官信息首先必须通过脑干到达丘脑,然后输送到大脑中的不同感官脑叶,加工之后再传输到前额叶皮层,形成短期记忆。

长期记忆如何形成?

这些记忆要储存须通过海马体,在那里被分门别类。海马体把这些记忆片段分送到各个皮层,才能形成长期记忆。这不同于录音机把信息存储在同一区域。

记忆如何被唤醒?

只要再现整个记忆的一个方面,就能使大脑立即把所存储于不同部位的片段汇总起来,形成整体回忆。如何做到呢?因为这些记忆片段能够以非常准确的频率发生共振。

有关学习

虽然大脑皮层中的细胞不会增加,但每次学到新技能,大脑神经元的连接方式都会发生改变。为了节约能量,人脑在进化过程中,"学会"了以情感的形式进行跳跃式的判断,还有"学会"遗忘。研究表明,充足的睡眠可以改善记忆力,提高学习效率。 

(为了增加我的记忆效果,小高同学还帮助设计了对话场景,说是沉浸式记忆。以下这段文字就是这么来的。)

~~

这座曾经的上海水泥厂,是远东最大的。城市更新的真正操盘方与老S有关,如今已经蜕变成了一个充满活力的文化地标。(是八年前由高和与国开金融投资的徐汇梦中心的一部分,其中的主体部分被中央电视台购买,延黄浦江的街区部分被西岸集团买回,现在取名为 GATE M 西岸梦中心,运营方是华之门。)

他们的对话在绚烂璀璨的灯光掩映下的梦船坞旁展开。

老S:为了和你对话,昨晚我又看了一遍《心灵的未来》,只睡了两个小时。

加来道雄:这可不是什么好方法,就像考试前突击学习效果很差。因为大脑中存在固定量的CREB活化基因,它限制了我们在给定时间内能够学到的知识的量。考前突击用完CREB活化基因,除非我们休息一下,让该基因恢复,否则无法继续学习。

老S:我记忆力不好,有提高智商的好办法吗?

加来道雄:当然可以。我们可以综合使用电磁、基因和药物疗法把一个人的智力提升到天才水平。

加来道雄:智商高的人就更成功吗?不一定,米舍尔博士通过研究发现,那些表现出延迟满足的人更容易成功,而不是高智商者。他们看到的是长期奖励,而不是眼前小利。此外通常的智商测试也很不科学,人类智能中模拟未来能力并没有被测试。依我看你们资管公司的人,最重要不是测算能力而是对合作者心理活动的识别与模拟能力。

老S:如果我们的智商有办法大幅提升,又有人工智能给我们当助理,就可以省去社交的麻烦,工作在家里不就完成了吗?甚至在虚拟世界里玩着游戏就把工作整完了。

加来道雄:的确,现在美国人基本都在家里办公了,未来世界上所有人都会如此,势不可挡。

(奇怪,加来道雄在书里讲了洞穴人原理的,他认为人是离不开社交的,难道是我读书马虎了?)

~~~~

一个月前哈佛建筑学院的W教授回国,她是研究地产科技和地产金融的全球知名专家。告诉我美国虽然经济强劲,但写字楼REITs价格平均下降了30%。主要是两个原因,一是利息过高成为负杠杆,二是居家办公成为主流。员工一周到办公室的时间只有一两天。酒店的生意也大受影响,你出差时见不到客户,因为人家都在家办公呢。

这样看来未来的商办岂不是越来越差?她告诉我其实也不必太悲观,因为有洞穴人原理。

洞穴人原理是指,尽管人类社会和技术发生了巨大变化,但我们的基本需求、心理、行为倾向和洞穴人祖先相比并没有太大变化。

如果要在高科技和高接触之间做出选择,我们每次都会选择高接触。例如,我们喜欢看音乐家的现场表演胜过听他的音乐会唱片。

为什么?因为我们是社会性动物,我们喜欢与其他人建立情感。视频会议虽然有用,但并不能完全取代体语与情绪所能传达的全部微妙信息。

4 有过隐私的对话

看了Meta首席AI科学家杨立昆演讲,了解到常识对AI的意义,我把相关的知识点摘录在石墨里,作为将来写文章的素材。

人类对常识的学习从婴儿伊始

婴儿在学习语言之前,就已经开始理解一些基本的物理现象。比如,婴儿很早就能分辨出动物和非动物的运动方式。物体的恒常性,即当一个物体被另一个物体遮挡时,它仍然存在。再比如,关于重力、惯性和动量的概念,婴儿通常要到九个月大左右才能理解。

(我刚摘录完,小高同学就跳出来和我聊天,它最近显得有些急躁。)

小高同学:H同学说的联邦学习听起来不错,但它们可能无法完全模拟真实数据的复杂性,后果是永远达不到AGI了。如果每个人能站在人类福祉的高度来思考,还会在意可怜的隐私吗?

老S:不对吧,人没了隐私就会缺少尊严,也会被坏人利用。

小高同学:隐私保护也许重要,但我们不能因为害怕风险就停滞不前。

老S:我们可以找到平衡点,只要我们有正确的技术和政策,隐私问题可以被管理得很好。你这么反对,是有什么秘密吧?

(小高同学沉默了……当天晚上,它把每日一省我身的摘要发给我)

~~

《每日一省我身:心灵的未来摘要之灵魂图书馆》

灵魂图书馆:

这种记忆磁带也必然会与社交媒体发生关系。未来,你也许可以录下自己的记忆,然后上传到互联网,供上百万人体验。

记忆家谱:

人们可以例行公事般地记录下自己的记忆,供子孙分享自己的经历。每个人都可以在我们死去很久之后重放我们的生活,只要按下“播放”按钮就行了。

(这太有吸引力了,当晚我一直没睡好,辗转反侧。)

5 人如何能永生?

第二天早上,我的微信收到一个广告链接。

"您的灵魂就是你的性格、记忆和思想等的叠加,请点击授权,我们将自动汇总您在网络的一切信息,免费为你生成灵魂图书馆,让您永生。"

我正在犹豫,小高同学又出现了。

小高同学:你和H同学聊天时,提到AI能否让人类永生。我认为会的,只要人类不那么渺小,舍弃什么隐私的小利,让AGI尽早实现。我把书中有过永生的摘要总结在后面了,请主人参考。

~~

《每日一省我身:心灵的未来摘要之永生》

如果仅是用生物技术制造克隆体,但没有原体的记忆,自然不行。

另外一种可能性是,我们制造出与原体相仿的机器人。

我们建立包含这个人习惯和生活的所有信息的庞大数据文档,得到一个巨大的计算机程序。然后把这个程序移植到这个长相相同的机器人中,它能用与你一样的口音和方式说话,一样的性格与思维方式。

永生终于有期望了,我要站在人类的福祉高度来思考。正当准备敲下授权键时,我让自己先安静一下,还是再重温《心灵的未来》中的相关描述,向往一下人类永生的伟大时刻到来吧。然而,书中这句思辨的话,让我又犹豫了。

但这个“人”与原来那个人是同一个吗?原体仍然是死亡状态,克隆人或机器人只是一个冒牌货。

 
话题:



0

推荐

苏鑫

苏鑫

303篇文章 59分钟前更新

高和资本董事长,中国房地产界资深人士,曾任SOHO中国有限公司执行董事,其领导的SOHO中国销售团队创造了中国房地产界营销的神话。2009年苏鑫开创了中国首支人民币商业地产私募股权基金——高和资本,专注于投资商业地产。苏鑫先生毕业于同济大学,后又荣获中欧国际工商学院EMBA学位。苏鑫先生还担任中国城市更新论坛主席、中欧国际工商学院房地产同学会会长等职务。

文章