机器得承认,人类才是需求的主导。
第三条原则是根据人类行为给机器设定偏好并提供依据。
这么设定是因为机器往往不清楚如何具体实现人类的价值。
但这不要紧,人类可以协助机器实现。所以要加强人机互动。
因为郝淮构想中的机器人,目的不仅仅是为了满足某个人或用户的需求,而是要遵循大家公认的道德价值观。
比如,人可能会犯错,做出违背道德的事。但郝淮不想让机器人模仿这些行为。
相反,他希望机器能尝试理解人类行为的动机,理解普遍的道德观念,并在适当时候阻止人类做不应该做的事。
这三条看似宽松实则严格的法则,不仅能限制机器人自我发展的潜力,还在某些适度宽松的地方,留给了机器人自我逻辑完善的余地。
防止因某些设定过于极端的法则导致机器人逻辑矛盾,进而引发故障。
这三个法则将直接焊死在核心代码里,永不可改。
“法则之后,就是防火墙和模块接入……”
“如果能确保法则不出问题,接下来就要保证病毒进不来。”
郝淮捏了捏鼻子,眼神也锐利了几分。
在那些机械文明中,有的因编程时的漏洞导致人工智能失控,有的则是人为因素。
因此,郝淮在吸收大量资料后,决定将核心代码纯净化!
简单讲,就是核心代码会被防火墙严密包裹。
日常运行通过复制的镜像系统进行。
而且,核心代码不接纳任何第三方程序。
这就是防火墙和模块接入的含义。
用防火墙保护核心代码,再通过镜像系统与所有第三方程序连接。
这样一来,所有外部程序都将以模块化形式存在。
一旦发现病毒,就能迅速隔离带毒模块。
就算病毒侵入系统,也能直接销毁镜像系统,然后重新复制一份。
平时,核心系统完全不参与工作,
也与所有模块完全隔离。
只有当镜像系统出问题时,才会人工复制一份新的。
只要核心系统不受病毒感染,就算病毒再厉害,也无法对人工智能构成威胁。
就像电脑杀毒,最粗暴的方法就是重装系统!
而守护核心系统的防火墙,郝淮计划定期升级。
确保防火墙技术始终领先地球二十年!
这样一来,即便有天才出现,在郝淮反应过来前破解防火墙也很难。
只要给郝淮反应时间,就算有问题,他也自信能解决。
至于最后的终极代码,
喜欢藏不住 我家黑粉总在线[娱乐圈] 玄幻之躺着也升级 进击的农妇[年代] 少年佑 反派亲爹养崽日常 东北黑道往事 缠绵百次(高干) 积道人 大秦公子 我妻福星高照 豪门反派为我冲喜 和讨厌的Alpha交换了身体 网王之柳生冷夏 刚重生,就被狠戾薄爷亲哭了 足球:拒绝国足,我入德国国家队 七十年代穿二代 海神的品格 一生一世,江南老 厉少,宠妻请节制
运动员王欢受伤退役,堂堂全国亚军落魄到给人按摩。不料他租住阁楼竟有一个传送门,通往未来末世文明之塔。里面有基因药物,未来三百年科技艺术等文明精华。王欢逆天了,2004年奥运会他夺得百米短跑金牌,破世界纪...
贞观十四年,大唐盛世已开启。唐高宗还是老实的小王爷。女皇已入宫成了武才人。翼国公府,秦琼刚加冠长子秦怀道,开启大唐封王生涯...
穿越到另一个平行空间的地球,这里和原来的世界历史完全一样,只是11年前,科学家做实验打开虫洞后,引发了一系列的变故,地球充满了一种叫灵能的能量,全部生物都进化了,而且地球上随机会出现未知的空间虫洞。沈...
万历中兴,明朝最后的辉煌。兴,百姓苦,亡,百姓苦。打土豪,分田地,为了过上好日子,穿越者毅然掀起一场浩浩荡荡的土地革命...
平凡了几十年的程佳终于不平凡了一回,她,重生了重生成了一个胎儿远离城市,远离现代化,生活在七十年代的小渔村,程佳佳的日子不要太逍遥遛狗斗鸡,上山下水,还有个妹控的小哥哥保驾护航,再来个憨厚老实...
末世降临,人间成为炼狱,重生归来的顾杀,在第一天就提起了屠刀,从杀圣母婊开始,踏上了一条猩红的道路,让黑暗都动荡恐惧!记住,在末世,不需要情感,不需要歌颂与赞美,不需要希望,只需要,活下去!我叫顾杀,杀戮的杀,也是无人生还的杀!...