,。
ps 奉上五一更新,看完别赶紧去玩,记得先投个月票。现在起-点515粉丝节享双倍月票,其他活动有送红包也可以看一看昂!
“丹尼,此刻你在想什么呢?会不会为那场对话感到后悔?”
硅谷某处公寓的客厅里,正在看jca现场直播的马斯克问哈萨比斯。
马斯克神色复杂地说:“看,从今天起,谁再说a,别人都会问‘你是说,还是说那种跟人平起平坐,我们不知道该怎么看待它们的a?’,夏只是改了一个字母,就统治了这个领域的话语权。”
“我后悔的是,或许那时候该认真跟他讨论一下dpnd的收购问题……”
哈萨比斯苦笑着说:“我相信,他现在这些见解,包括神经元芯片和人工智能编程体系,有不少灵感来自于和我的对话,而这个概念,也是我们后半截对话的焦点。”
“我怎么也想不到,他是认真的!他的所有努力,都是为了防范他预想那些最坏的结局,他……”
哈萨比斯感慨道:“他才是真正的科学家,有信仰的科学家。”
“或许吧,不过这里有个问题”,马斯克说:“也是最关键的问题,如何确保夏所说的,就是人类智慧的扩展?”
正说到这,屏幕上,夏鸣不在意“”这个概念是否马上得到认同,继续抛出问题:“大家会问,要如何确保是人类意志的延伸呢?不解决这个问题,不还是以前的a吗?”
“夏不是演说家”,哈萨比斯笑笑,马斯克尴尬地摸摸鼻子,但这尴尬也马上消散了,和哈萨比斯一样,他也全神贯注地等待夏鸣的后文。
“我们无法彻底解决这个问题,但我们可以从技术上无限趋近答案。并且让偏差只限于我们人类这个集里。也就是永远只能趋近于人类意志,而不完全等于人类意志。同时,也不可能跳出,或者超出于人类意志。”
“基于这一点。我们提出了‘意志映射’(v)这个概念。”
“只要我们在技术上,确保的意志完整地、纯粹地来自于人类,让成为人类意志的映射,让这个方向驱动的智能研究,就一直是!”
现场更沉寂了。不是冷场,而是思考。
马斯克咬着嘴唇嘀咕道:“我有种感觉……”
哈萨比斯咬着手指甲,这是他的怪癖:“定律!需要定律!”
“为此我们提出了一套规则,希望用它来规范的研究和应用。这套规则还很粗糙,但我认为,对这些规则的每一处忽略和删减,都将动摇我们将a变为的根基,进而模糊技术造福人类的终极目的。”
夏鸣顿了顿,目光扫了会场一圈,再道:“这就是三定律!”
“第一。所有都必须有明确的映射主体,隐藏二者的关系必定抱有不可告人的目的。”
“第二,的完整性和私密性不容侵犯,不允许进行任何非法的窥探、破坏和修改。”
“第三,与主体的映射关系,不允许进行任何非法的破坏、蒙蔽和扭曲。”
夏鸣这个三定律丢出来后,现场继续沉寂,绝大多数人都在沉思。
“个人的,还有组织的,夏考虑得很周全”。哈萨比斯点头说。
马斯克搓着手指:“我都迫不及待地想召开公司会议了,映射!夏指出了a,好吧,的新方向。就是把人的意志灌输到机器上!不管是个人意志,还是组织意志,都必须紧紧地绑在一起,这是推翻现有的商业模式,是一场商业革命!谁跑在前面最就赢了!”
然后他皱起了眉头:“不过组织的这边,商业用途还好说。【 】公共用途的映射主体就是政府,政府要怎么调整?”
“这不只是商业革命,还是社会革命”,哈萨比斯耸肩:“要头痛的是各国政府,学术界对a的认识统一到了后,它就成了社会共识,三定律的意义就相当于阿西莫夫的机器人三定律变成现实。这是人类文明的进步,政府如果头脑清醒,就必须服从这样的共识。”
旧金山的上午是燕都的深夜,但多所大学的阶梯教室、礼堂、影院里却依旧光亮大作,师生们挤得满满的,都在看jca的现场直播。
燕都理工大学的大礼堂里,浸淫计算机几十年,现在也在从事人工智能研究的老教授听到三定律后,摘下眼镜,欣慰地说:“人工智能的伦理问题终于解决了。”
旁边那个洋溢着青春气息的马尾少女问:“罗教授,我还是不太明白,这个三定律到底有什么意义?”
周围的学生们也都纷纷问,罗教授擦着眼镜,笑道:“你们啊,学东西的时候也要顺带想想,学到的知识和技术跟我们人类是什么关系。”
“我们对人工智能的恐惧,跟对核武器或者其他生物、能源技术的恐惧是完全不同的,因为人工智能的展,必然会叩问人类的自主意识这扇大门。”
“小夏和哈萨比斯不认同人工智能会产生自主意识,这是基于现有技术所做的判定,如果未来我们走生物计算机的路线,展出了强人工智能呢?所以也不能完全否定人工智能对人类的威胁。”
“再加上小夏的忧虑,也就是人工智能让人类社会变得更加不平等,总之,人类到底该怎么看待人工智能,这个问题始终没有明确的答案。”
“说人工智能只是工具吧,可它在机制上具备拥有自主意识的要素,未来可能会成为独立的个体。那么平等对待它们呢?非我族类,其心必异,更何况是一种认知和理解世界完全不同于我们的新生命。”
“小夏的三定律在伦理层面上回答了这个问题,具体的技术细节你们不必追究。大致的意思是,就像我们人,不是无缘无故来到这个世界上的,我们有父母,我们有自己的人生意义。那么呢,三定律说的就是,也必须有明确的,伦理上的父母,它存在的意义是与它的映射主体共同成长,共同面对这个世界。”
“三定律,确定了人工智能在人类社会的地位,就是人的附属。就算它有了自主意识,它依旧被容纳在人类社会的体系里。”
“人的附属?”那个少女眼睛滴溜溜转着:“听起来像猫啊狗啊什么的。”
“地位上也许是,但意义却完全不一样”,罗教授呵呵笑道。
另一个男学生却不太接受这个观点:“这个三定律的重点不是在作为人类意志的延伸上吗?它是没有自主意识的。我如果有的话,它完全就是我的扩展,我想什么它就想什么,关于有自主意识的那部分人工智能,不是不在小夏的讨论范围内吗?”
一个年青老师说:“第一,必须有主人;第二,不受非法侵害;第三,和主人的从属关系不受非法侵害。”
他笑道:“你看,小夏这个三定律,其实已经把有自主意识的人工智能也覆盖到了。”
罗教授点头:“是啊,他毕竟是在jca上表演说,有自主意识的强人工智能还太飘渺,那不是严谨学术应该去探讨的领域,所以他把范围聚焦在弱人工智能上。”
罗教授喟叹道:“你们啊,生在这个时代是非常幸福的,技术成熟了,伦理问题也解决了,人工智能时代的到来已经不可阻挡。”
年青老师说:“教授您还不老,咱们还得指望您领路呢,硬件软件都有了,咱们今年就能解决好几个课题!”
“我老喽,小夏,还有那个林澄,才二十来岁,我还得跟着他们走呢,不过……希望能多走几年吧”,罗教授戴上眼镜,即便是镜片也挡不住兴奋和希翼的光彩。
香山脚下,那片新矗立起来的建筑里,也有一座像是电影院的建筑还灯火通明。
上千人把大厅挤得满满当当的,研究所里男女老幼,从科学家到清洁工都到了,掌声已经响过了几轮,小欢的巴掌心都拍红了。
“其实我没怎么听懂呢”,李迪罗挠着头,依旧一脸迷茫。
“要是人工智能害人呢?这事怎么算?”他问旁边的武思豪。
“你笨啊!”小欢举起扇子,啪的一下敲上李迪罗的脑袋。
“嗷……干嘛打我!?”李迪罗叫着痛:”你手头还挺准呢!”
小欢把扇子丢给李迪罗:“是它打的你,不是我。”
李迪罗捞着扇子,想说小姑奶奶你够萌了,不要再装六岁小孩的萌好不好,忽然脑子一个激灵。
“明白了吧”,武思豪充当解说:“三定律的第一条是什么?必然属于一个人,它做了什么,责任都在那个人身上啊!”
“明白了”,李迪罗指着那把扇子耍宝:“我要控告你的主人小欢故意伤害,导致我的智商下降5点!”
小欢咯咯笑道:“我是阿鸣的,你去找阿鸣索赔!”
正说着,屏幕上,会场终于响起了掌声,而且是站起身来,热烈鼓掌,小欢也起身鼓掌,带动了整个影院的人都跟着站起来,屏幕和影院的掌声似乎穿透了空间,混在了一起。
【感谢大家一直以来的支持,这次起-点515粉丝节的作家荣耀堂和作品总选举,希望都能支持一把。另外粉丝节还有些红包礼包的,领一领,把订阅继续下去!】(未完待续。)
ps: 下午还有一更h194,。