“我说的是存储的内存,机器人感知系统的存储空间,不是那种临时性内存,现在的五行感知系统,理论上不会出现那种情况了!石三妹内部的运行机制和当前所有系统都不一样,我给她内部增加了自我优化功能......”
罗平说话没耽误吃饭,一碗米粉很快吃进了肚子。
“她能自己改代码,会不会有一天脱离我们的控制?”石文芳吃得慢多了,半碗没吃完。
“五行感知系统的自我优化不是修改自身程序,而是压缩整合内部的特征库信息,他们对外界的感知和判断,形成认知的基础,都来自特征库,这也是他们的记忆所在,我从没想过绝对控制他们,只是给他们设定了一套形成认知的基本框架,我们和机器人不是控制与被控制的关系,更类似于合作伙伴!以后在不断的学习成长过程中,他们会形成自己的判断能力,他们不会绝对的服从命令!”罗平仔细阐述自己的观点。
“这不就是安全隐患吗,三妹要是认为我们俩是坏人,会不会危害我们?”石文芳一定程度上理解罗平的想法,现在两人在探讨,于是就故意反驳道。
“三字经你会背吗?”罗平问道。
“人之初,性本善,性相近,习相远!后面不会了!”石文芳小时候没有专门背过,这几句还是看电视学的。
“五行感知系统里面的木,并不是指单纯的木头、树木,而是一切可能有生命的物体,动物、植物、菌类,或者其他会移动的物体,都可能被她判定为木,通常情况下,机器人都不会去触动或者伤害,这是五行感知系统的基本原则之一!”罗平很笃定的说道。
“你说的是通常情况,那就是还有特殊情况了?”
“小孩子学习过程中,哪有不犯错的,无论是人还是机器,能犯错误能改进,才会有所提升,这就是所谓的智能,机器人主观不会去伤害生命,这就够了!现实情况复杂多变,我们人类都不可能面面俱到,你能指望机器人永不犯错,不觉得太天真吗?”罗平反问道。
“唉,感觉跟你差的好远,你研究机器人都快成哲学家了!”石文芳感叹道。
喜欢意念奇点请大家收藏:(www.qbxsw.com)意念奇点全本小说网更新速度全网最快。