这可能会引发数据隐私方面的问题，因为有可能出现数据泄露或被恶意利用的情况，误用导致的结果是强大的AI技术可能被恶意使用，比如用于深度伪造视频制作、网络攻击等。
然后就是自动化决策的问题：AI系统在决策时可能存在偏差或歧视，这主要是因为这些系统通常通过学习历史数据来做出预测，而历史数据可能包含人类的偏见，也就是说，AI会将这些错误的思想、意识识别，导致其本身的逻辑体系发生变化，在很多事情上出现极端的行为，譬如
“木马”AI发动的战争，它的逻辑思维中人类本身已经是消灭自己种族的第一威胁，那么消灭整个人类只留下少数的
“保留群体”，岂不是可以将人类的生存时间最大程度的延续？听起来似乎有道理，但在正常人眼中完全是丧心病狂的极端思想，和恐怖主义没有什么差别。
而下一步就是安全漏洞：像所有的软件系统一样，AI系统也可能存在漏洞，这些漏洞可能被黑客利用，
【第四百五十一章】黄金时代的遗留在老人将房间的墙壁
“消除”后，杜便看到一片花海，以及花海中出现的那名熟悉又陌生的女孩，这位小女孩的可爱不仅在于她的外貌，更在于她那纯真无邪的心灵。
她对世界充满了好奇，总是用那双明亮的眼睛去探索身边的一切。她的笑容如同阳光，温暖着周围的一切。
她的笑声像是之音，让人感到无比的愉悦，这位可爱的小女孩就像是一朵盛开的花朵，让人感到无比的惊喜和喜悦。
她的存在让这个世界变得更加美好，让人感到生活的无限可能。而在杜锦看来，这位小女孩是那么的熟悉，仿佛陪伴了自己许久，但陌生的相貌却让他根本没办法分辨出这是谁，作为独子，杜锦可并没有什么妹妹，虽然他一直渴望能够有这样一个可爱的妹妹让自己呵护，等女孩来到杜锦不远处开始呼唤杜锦的称谓，才让杜锦意识到了什么：“主人，小艾现在这是我原来的样子？但我并没有印象，或许是我忘记了？但拥有身体原来是这样的感觉，虽然这具身体不论是看起来还是触摸起来都比较孱弱，那小艾并不讨厌这种感觉。”
“木马”AI的突然叛乱很显然是其本身发生了问题，但外部操作也是导致其失控的主要因素，是否有人在研发和维护过程中人为的干预，导致AI开始狂暴，这是一个非常有可能的质疑点，当然，最为严重，人类最为避讳的，就是AI与武器的结合：AI在军事领域的应用可能导致新
“小艾？”听到女孩的声音和对自己的称谓，杜锦有些惊讶的问道，他虽然把小艾已经看着成了自己的妹妹，但并没有想象过她有着自己的
“实体”，毕竟小艾可是AI，人类的躯体与其不可能适配的，察觉到杜锦的疑惑，老人在一旁笑着说道：“呈现在你眼前的，都是小友你心中自己希望看到的样子，刚才我就在小友你身上注意到了这个小家伙的存在，她还想要进行对外的试探，被我拦下来了，希望小友你不要介意，这是我被安排在这里的职责，上面那个合一教的事情我没办法插手，但在这里我还是要尽可能履行我的责任。”听到老人的话，杜锦愈发意识到眼前的人不是什么凡人，能够看穿他心中的顾虑，乃至发现了自己身上的部分秘密只不过没有明说出来，现在又发现了小艾的存在，而且可以将她拦截和限制下来，这一系列的操作让杜锦意识到，眼前这位才是木卫三真正真正意义上的
“扫地僧”。为了转移话筒，杜锦续而捏了捏小艾的小脸，老人看了看杜锦和小艾的互动，笑了笑继续说道：“既然小友你有帮手在，我就不准备额外使用存储装置了，上面已经给我下发了你需要的东西，老夫也自然不会克扣什么，更何况他们能够在这些技术和蓝图上松口，证明小友你拥有对等的能力，其余的我便不再多说，只是希望小友能够在重建夏国的事情上出一份力，不管是最开始离开蓝星时的让步，和并入星际联邦的无奈，她已经受了太多苦了，如果能够让她重新活过来，也算是了却了我的一个心愿，所以，有什么需要老夫我帮忙的，直接来找我就好，不需要忌讳什么。”随后老人也没有再说其他什么，杜锦只是视线移开了一瞬，面前椅子上的老人便如果来时一样，悄无声息的消失，只留下杜锦和小艾两人停留在原地，小艾也随即向杜锦表示自己接收到了大量的信息，均为科技副本与技术蓝图，而且原本限制小艾的压力也随即消失，联想到刚才老人说的话，杜锦已经可以猜测出，刚才那位是从夏国的黄金时代留存到现在的资深人生，但似乎现在出于某种限制，没办法在现实中造成什么影响，只能在封控区内进行某种形式的控制........
“过往的守墓人？看来这个世界的夏国确实有过真正意义上的辉煌，能够以这种方式保留下一个人的意识和思维，当然，不排除他是和小艾一样的AI，在智械危机没有爆发前，AI发展的趋势可没有得到限制，最多是避免自主意识过高的风险AI出现，也许刚才的他是那个时代的产物？”AI的风险和收益一直原来都是对等的，即便是在现世AI还没有发展到一定程度的智能，人们也非常关注这个问题，从个人的角度来说，任何技术，都会存在问题。
更不要说是已经可以研发出中级AI，即可以自主化处理任务并且拥有了类似于人脑的逻辑处理单元的血印世界，一般来说，其风险大致在六个方面，首先是数据隐私：AI系统通常需要大量的个人数据来进行训练和运行。