写在第三卷前面的话
人成为了高官、领导,又可以替换掉他们的意识,从而实现一些其他的目的。人工智能系统无法识别出这种改变和不同。
这样做的结果是,研究所可以帮人合理的避开系统规则,从而让人工智能系统确定的规则失效。
un本是想通过运行这套体系,让人类看见这套体系的公平、合理,让人类自愿地支持她继续推行人工智能的管理,心甘情愿地服从这套管理体系。因此,她一定不会允许有人利用类似研究所这样的技术,使这套系统失效或是绕过系统确定的规则。
而在研究所来说,每一个发现系统bug的人或组织,可能一开始并不想利用这些bug去做恶和谋取私利,但是随着时间的推移,领导层的更迭。一旦有人改变、忘记,甚至是不清楚、不认同组织的初衷,那么一定会想最大化的利用这个漏洞,让自己获益。
研究所经营了这么多年,有这么多的客户,帮助了各个领域众多优秀人才获得成功,这是多么大的资源池!一旦某些人掌握