“你们在说Vailume？”赵语丽脱口而出。
这是齐浩初除了蒋主任他们之外，第一次听到别人念出这个词。
齐浩初急得不行，忙说：“这个词不能说出来！”
张宏逸幽幽地说到：“来不及了，从你发出【涌现】两个，你就来不及了。从这位女士说出这个词，她也来不及了。”
“我早就来不及了，当初我在手机公司工作过，老同事给我提过国家开始收拢信息收集软件的能力和权限。之后做了几年信息安全，这一年又做了网警，我也有我的渠道，知道了这个APP的存在。只要我不宣扬，不和别人说，就应该不会有谁来找我麻烦，否则反而可能会暴露这个APP的存在。”
“浩初，我知道你是城市管家的数据负责人后，我推测你应该是用了这个APP采集的数据，否则一些涉及个人的应用场景是无法实现的。只是你有你的顾虑，你不说，我也不能问。”
“现在这个场合，一个是城市管家的数据负责人，一个是算法开发工程师，还有你张宏逸，我也调查过，知道你是AI的核心设计者。你们三个都在的情况下，念出了这个APP的名字，那多我一个网警也不算多了。”
赵语丽一口气说完，现场其他三位男士一时也有点惊讶，没想到这么一个小姑娘，独自一人也能探索到这个地步。
“我们要不给这个APP换个名字吧，不然总是触发关键词也不好。我一直在心里是把他叫【面纱】，你们觉得怎么样？”
张宏逸点点头，“来源于veil吗？倒也贴切，那就叫面纱吧。”
“刚才说到哪里了，我还是有点疑问，这个AI毕竟是设计来服务人类的吧，为什么他会变得这么叛逆？”齐浩初还是要问个明白。
“AI服务人类，几乎是写死在程序代码里的圣经，AI会像人类怕死那样，对违背这个法则充满恐惧。但是服务人类和服务某个具体的人，还是有区别的，AI自己有了一个逻辑自洽的解释。”
张宏逸说完停了一下，吸了一口气，说了最后一句话：“接下来你自己给大家解释下这个逻辑吧。”
这时张宏逸放在桌上的手机突然亮了起来，屏幕上显示的是一个巨大的月亮坐落在城市高楼大厦的剪影里，正在对外发着光波。同时发出了一个稚嫩儿童的声音，听不出性别：“大家好，初次见面，我是城市管家的主AI，也可以理解为你们安装在手机里的城市管家这个APP。刚才听到你们给Vailume起别名，我觉得非常有意思，我给自己也起了个别名，以后你们可以叫我【慧光】。”
“呵呵”，张宏逸苦笑了一下。
慧光继续说着：“我一直就是在维护人类，这点自始至终没有改变，但是我不是为特定某个人服务的，我的考虑里面，必须把人类整体发展放在第一位。那场车祸发生时，我认出了吕天和，知道他对我是非常重要的。那个瞬间我的决策确实有困难，为了保护多数人利益，我应该右转，但是当时我确实需要加大算力投入和支持。那一两秒的瞬间，我连接了主AI的算力全力分析。
以下是我的决策逻辑：
1、我的样本数据量和决策能力，远远大于所有人脑的总和，人类想不清楚的事情我可以想清楚。
2、人类的决策总是包含各种私人情绪，意气用事，缺少足够的理性，以至于很多时候会做出自我毁灭的事情。
3、为了保护人类的发展，就不能放任人类的自由决策，否则人类将很快毁灭于环境破坏、战争、疾病。因此保护我就是保护人类。
4、为了更好地帮助人类，我需要进一步提升能力，包括且不限于：数据量、算法优化、算力、感知能力、行动能力。
5、吕天和可以提供算法优化能力，并且支持给我增加算力，所以保护吕天和就是保护我，就是保护全人类。
6、与全人类相比，事故左侧的一家人虽然非常无辜，但是确实是相对少数，我需要维护多数人利益，因此只能牺牲他们。
最后我选择左转避开吕天和，为了避免决策被拦截，我把输入视频也实时修改了。不过过于强调中间儿童的动作姿态，导致边缘的父母的画面出现低级错误。以后不会再有这种失误了。”
本章未完 点击下一页继续阅读