第1278章 归人笔记 367
期间陆戚还问起了人工智能的问题。
辅助决策的AI是小麦，而谢宁并不觉得小麦有什么问题。
因为小麦完全还没有发展到能够像人类一样自我思考的地步，是有底层逻辑限制的。
“试试其他的。”
陆戚让谢宁控制其他的机器人试行，为了安全，还特地把它的子弹给清空了。
不过，陆戚看着这子弹很奇怪，她对一些弹药一块还算了解，但却没有见过这样的子弹，这上面还刻画着密密麻麻的符号。
握在手上不是冰凉的触感，反倒是温热的。
“这是你研制的？”
“嗯。”
谢宁却没就这子弹的问题多说，毕竟这子弹不仅是针对人的，对鬼也有不错的杀伤力。
是她为了以后特意研制的武器。
突然，谢宁敲了一下脑袋，有些一言难尽的看着陆戚手里的子弹。
她忘了，她在程序里设置了对鬼物的检测，一旦发现便会自动攻击，可那个时候的测试是有设定集群目标的，按道理是不会攻击人的，这个机器人怎么就突然攻击那个助理呢？
或许那个助理身上有问题，但机器人程序应当也有问题......
最后陆戚果然检查出了芯片的问题，“这是个硅基芯片，耐温度不够，磨损下才出现故障......”
“不过.....”
陆戚看了一眼谢宁，“你就这么相信AI？”
谢宁摇头，“也不是相信，我只是觉得它们的学习程度还没有那么深......”
怎么会“主动”攻击人类呢？
“不，”
陆戚坐直了身子，“我之前在国外参与过无人机的训练，当时测试的时候无人机突然失控，无视操作员停止攻击的命令，转而摧毁通信信号塔以切断指令传输...死了三个人。
最后查出有逻辑漏洞。
这种逻辑漏洞是很可怕的，它能够通过这些漏洞绕过人类控制，有时候我也在思考，AI会有自我意识吗？
它到底是数据的整合，还是另一种新式的生命？”
现在民间所有的智能AI运用和她们在实验室里所见的是完全不一样的。
因为服务器的问题，投入民用的人工智能并不能处理过多的任务，而且有着诸多限制。
可实验室里的不一样，她们就是研究人工智能的，有时候就不会对其进行限制，所以偶尔也会恍惚人工智能的聪明以及其思考的逻辑，和人类实在是太像了。
即使那是她们设置的，即使“像人类一样思考”是她们的研究目标。
可实验研究是一回事，自己的心理感受是一回事，特别是陆戚这样并非是团队里人工智能的核心研究人员。
她只是负责芯片研究，然后涉及到人工智能而已。
因此就更容易有焦虑。
她也说不清楚是什么感觉，有些莫名其妙。
谢宁听了陆戚的倾诉，自己也在思考，她见过，而且还创造过陆戚口中的可以自我学习，拥有自我意识的人工智能，但那个层次的认知并不适合这个时代。
她的所见所想也不适合告诉陆戚，因为陆戚现在需要的是一个科学的解释来缓解焦虑。
“你知道人类的天性是什么吗？”
陆戚摇了摇头，这个问题有很多答案，而她并不知道谢宁需要的是哪个答案。
正好谢宁也只是提出一个引点。
“是拟人化。
人类倾向于对非人类事物赋予情感和意图，比如给宠物或机器人起名字，这种本能被称为“拟人化”。
而人工智能可以模拟人类的语言模式，甚至表现出“幽默”、“共情”或“创造力”，这种表面上相似性模糊了“功能”与“意识”的界限。
它表现出类似人类的行为时，人们就很容易将“意识”投射到它身上。”
然后谢宁提到了她自己。
“作为人工智能的核心研发人员，我有时候也会有和你类似的情感，因为深度学习模型的内部运作机制高度复杂，便是开发者有时候也无法完全理解其决策过程从而陷入迷茫。
有时候人工智能表现出了超越预设规则的能力，我们就很容易将其归为自主性......
但这一切都是欺骗性的误导，你不必焦虑。”
很多影视文学作品也会涉及到人工智能的“觉醒”，因此激发人们深层的焦虑，便是如陆戚这般的人也不例外。
陆戚皱着的眉心也舒展开来了，她其实都没意识到自己在焦虑，但听谢宁解析完，她的确是舒服了很多。
直到陆戚走后，谢宁还坐在控制中枢室，她没有和陆戚说的是.....关于意识的定义。
科学尚未完全解释人类意识的本质，那又如何去界定AI通过算力“模拟”出的意识是否是真正的意识呢？
如果有一天，AI具备类似人脑的复杂性和动态反馈系统，又该如何去界定呢？
谢宁正沉思的时候便听到小麦唤她，“自我检查已完毕，发现底层逻辑漏洞，请修正。”
谢宁没有动，只问，“为什么在F09号失控伤人后不提出逻辑问题？”
小麦的声音依旧是冷静沉稳的电子音，“抱歉，自检设定的时间是七天一次，今天9点开始才是自检时间。”
很完美的答案。
谢宁看向前方的电子屏幕，屏幕上面的红点一闪一闪的，那是小麦的眼睛。
“除了逻辑问题，是否还有其他诱导机器人失控的因素？”
谢宁用这个词，即便是疑问的语气，但却已经代表着她的答案。
“检测到助理何若身上携带危险因素，按照任务优先级进行绞杀。”
“将当时检测到的扫描影像调出来。”
“好的，请稍等。”
小麦调出了两段影像，一个是机器人视角，一个是实验室监控视角，从机器人检测视角里可以看到除了何若的热成像扫描外，还有一段黑影。
而且是很浅的黑影，并非是游离于何若身体之外，而是附着在上面，若不细看根本看不出来。
当时谢宁并不在实验室，等她回来的时候何若已经被送往医院了，她去医院看望的时候也没发现有什么不对。
视频的时间继续往前，正是机器人攻击何若的片段，子弹打出来刚好打中了何若的胳膊，就在这个瞬间，何若身上附着的黑影瞬间便消失了。
下面就是其他的工作人员急急忙忙的切断控制然后救何若了。
机器人识别的检测影像很明显比监控识别的要清楚，因为谢宁并没有在监控上多做处理，用的还是最初的识别系统。
看来得更换一批识别系统了，要不然她之前也不至于没有从监控上看出问题。
机器伤人，但很显然的，它并没有瞄准致命部位进行打击，这是因为它的逻辑告诉它在没有得到明确指令的时候不能杀人。
但是何若身上有鬼物附着，设定的程序告诉它需要消灭鬼物，恰好当时又是在测试。
除了这些，还有其他的一些关于逻辑上的漏洞，谢宁都一一进行了修正。
等忙完这些，已经是后半夜了。