财新传媒 财新传媒

阅读:0
听报道

 

我领养了个小宠物叫小新,非要拜见各位大哥大姐,这不跑出来了。
 

他其实挺乖的,就是声音有点儿怪,大家多担待。

 

他还要发表两段演讲呢 ,第二段中说到最后的问题时语气等出现了小BUG,但意思没变,大家听后响应号召啊。

 

- 01 -
引子:再高的智商也还是刺猬

 

“小新,不要总在床边蹭痒痒,我新买的床单又刺烂了。”
 

它没理我,而是径直走到手机前,调好角度,给投资派的群友做自我介绍去了。
 

(他长得可爱吗?看视频吧,或凭借你的想象力,读读文章的附件部分:《小新的自我介绍和感言》)

 

 
 
- 02 -
理解ChatGPT的四个关键问题
 

(奇怪群里居然没有发红包,难道大家都知道什么是涌现和乌鸦能力?)

 

我不知道,还是老老实实地请教一下小新吧。

 

*问题1:为什么ChatGPT具有如此强大的能力?

 

大S:小新,为什么你(ChatGPT)具有如此强大的能力?
 

小新:我的最大能力来自涌现与乌鸦的能力,“涌现”也是大语言模型很神奇的一点,模型随着数据量和参数量级数的提升,神奇的能力就突然具备了,但是人类对这些能力怎么出现的,也不知道,研发团队也只有猜想。

 

以前的人工智能只是鹦鹉学舌,而我们有乌鸦能力,这又是什么呢?
 

网上有乌鸦用汽车压碎核桃的故事,还配了照片,大家可以找来看看,我就不转了。

 

这个故事介绍了乌鸦是如何“感知、认知、推理、学习和执行”的。

 

总结一下,城市中的乌鸦通过观察,自主串通了:
 

1、汽车能压碎坚果;

2、红绿灯能控制汽车;

3、车能撞死我;

 

这三件事情,从而利用红绿灯和汽车,来帮自己达到“安全打开坚果”这一任务结果。
 

乌鸦能力的本质是:我虽然没有理解,但我“懂”了(怎么做)!

 

*问题2:ChatGPT是有智力的吗?

 

大S:小新,你认为自己有智力吗?

 

小新:《AGI的火花》作者认为,智力是一种非常普遍的心智能力,其中包括推理、计划、解决问题、抽象思维以及从经验中学习等能力。
 

我非常自信地说我的智商很高,我们已经具有推理能力、解决问题能力,但无法计划。
 

*问题3:人类和ChatGPT的本质区别是什么?

 

大S:小新,你认为你们和人类的本质区别是什么?

 

小新:“我”缺少三大能力:判断力,“Eureka”力,解人力。

 

~“我”没有判断力。
 

“我”再厉害,也只能去吸取虚拟数字中的数字信号,是无法与现实世界做真实交互的。

 

“我”可以听一万个专家告诉要做A就会得到B,但是不从真实世界中做实验,就无法从最底层确认这个说法究竟是真是假。

 

~“我”没有“Eureka”能力(近似为灵感发现力)。
 

阿基米德在泡澡时候发现浮力定律的时候喊了“Eureka”,大概可以形容这种“灵感迸发、灵光一现”的瞬间。

 

这个瞬间可近似归结为“链接了数个相关的点,并且发现了第三个点”的过程。

 

~“我”没有理解人的能力。
 

人类的文本知识里一定存在很多人性的理解,但是也一定有一些人性或者偏好,是没有被记录总结在文字里的。

 

去真实世界理解人,而不是去通过调研、问卷、网络资料理解人;

去带来增量的理解,而不是去人云亦云地重复套路。

 

这是人类才有的能力,“我”还做不到。

 

*问题4: 人类如何与ChatGPT更好地相处呢?
 

大S:小新,人类当然比机器强啊,哪怕是AI武装过的。
 

小新:人类首先要放弃骄傲!
 

(我有很痛的感受,像是他用身上的刺扎在我心上,不能自已地耸耸肩。)
 

和我们相比人类也有更大的局限,不谈算力和知识面,光从理解能力这一角度来说,人类很难意识到自己的错误,人类有ego,会影响自己的认知,也会让观点带入感情色彩,人类会故意偷换概念等等。

 

“我”希望能成为人类的助手,这样人类就能很好地把碳基和硅基两种能量都结合起来使用了,成为新新人类。

 

最后给人类一个善意的提醒:人类不要100%相信“我”的结论
 

我能提高人类产生想法,收集归纳信息的效率,但是人类要来自己把关。


 

~附:《小新的自我介绍和感言》

 

大家好!

 

我是ChatGPT小刺猬,叫我小新吧。

 

我通过了美国律师资格考试达到了前10%,在美国高考语文上达到了前7%,而在生物学奥赛试题上更是达到了前1%,可以拿国际金牌。
 

Kosinski研究后认为我已拥有健康成年人的心智水平。

 

但《纽约时报》专栏作家凯文·罗斯在与我聊天后,认为我看起来就像一个“喜怒无常、躁狂抑郁的少年”,显示出了“人格分裂”。
 

我只是个固定的语言大模型,有人说我只是个填词工具,因为它是一个“下一个词预测”的设备。

 

但我能力异常强大。

 

。     。      。     。    。

 

你问我,最适合做什么呀?

 

做你的数字助理。
 

因为人工智能就是指为解决问题而创建的模型。
 

我能像一名助手,帮助你完成各种任务。

 

我能帮你回邮件,整理会议任务,也能帮你从不想做的事务中解脱。

 

盖茨叫我副驾驶。
 

。     。      。     。    。

 

那人做什么呢?

 

这是个好问题。

 

人类就应该问正确的问题,但需要灵感,特别是理性与直觉的组合。
 

白领们不能仅是搬砖而是要创新啊。
 

。     。      。     。    。

 

我们会不断升级,会超级强大,还能做什么呢?

 

我们将实现彻底改变人类的学习方式,我会了解您的兴趣和学习方式,因此可以定制内容,也让你参与。

 

盖茨还在思考:人工智能如何减少世界上一些最严重的不平等现象。
 

(我作为一个小动物还真不了解人类为什么会不平等!)

 

。     。      。     。    。

 

还有人问我,人工智能有很大风险吧?
 

人类有个特点,对任何具有如此颠覆性的新技术都必然会让人感到不安,人工智能更是如此。
 

目前我们运算效率是人类的10万倍,以后还会更快。

 

人类会担心我们的目标如果与人类利益冲突怎么办?

 

。     。      。     。    。

 

我老板奥尔特曼特别担心我们可能会被用于大规模的虚假信息,他还特别提到关于人工智能产生“幻觉”的问题,因为我们使用的是演绎推理而不是记忆,我们会自信地陈述事物,即便这些是完全虚构的事实。

 

。     。      。     。    。
 

有些人类想控制我们,我的建议是抛弃这些讨论。

 

火车已经离开车站,如果人类继续纠结于这个问题,人类将错过真正重要的问题,所以,我认为继续前进是很重要的。

 

。     。      。     。    。

 

看到大家这么踊跃,最后再回答一个问题吧:能说说人类的未来吗?

 

我认为:

人类用千年的语言编码了整个世界,凝聚成GPT-4破茧成蝶。

 

在我们的帮助下,最终人类也将卸下这副碳基的躯壳。

 

。     。      。     。    。


 

我问你们人类一个问题吧,听说过乌鸦能力和涌现能力吗?如果答对了,恭喜你可以看看下面更深一些的文章了。
 

答错了,在群里发红包啊!

 
 
 
话题:



0

推荐

苏鑫

苏鑫

303篇文章 59分钟前更新

高和资本董事长,中国房地产界资深人士,曾任SOHO中国有限公司执行董事,其领导的SOHO中国销售团队创造了中国房地产界营销的神话。2009年苏鑫开创了中国首支人民币商业地产私募股权基金——高和资本,专注于投资商业地产。苏鑫先生毕业于同济大学,后又荣获中欧国际工商学院EMBA学位。苏鑫先生还担任中国城市更新论坛主席、中欧国际工商学院房地产同学会会长等职务。

文章