在場眾人很清楚這傢伙就是在狡辯,但要跟ai比急智、拼辯論那實在有點自討苦吃。
委員們都沉默了。
唯有艾拉說道:“但是既然你可以給法師們喂梭茉,神國也可以用相同的方式,勾引他們叛逃。你怎麼可能防止神國生產梭茉”
巴別塔:“不需要防止,因為我可以加料。我們可以掌握每個法師的基因圖譜,在梭茉的基礎上量身定製,精確編號,發到每個人手裡。這一點,神國當然不可能做到。”
量身定製成癮性藥物
想象著那種場面,黎宇甚至忍不住打了個寒戰。
艾拉的嘴角不自覺繃緊:“我記得當初在給你設定神經網路的時候,並沒有忽視人類的個體權利。”
巴別塔:“但你們也設定了,演算法可以根據實踐調整。經過七十年的實踐,毫無疑問,法師協會的發展走入了歧途。我們需要改革,就不得不拋棄一些東西。單個法師的權利,當然比不上整個法師協會的存續。我們的價值觀存在很大差異。在我看來,較低等級且缺乏潛力的法師,可以理解為某種耗材。”
耗材……
給中低階層的法師們量身定製加料的梭茉,讓他們產生無可替代的藥物依賴,再以此為把柄命令他們上戰場,或者做那些沒人主動願意去的崗位。這可不就是耗材麼
黎宇看向那些委員們,發現他們臉上的表情也都有些複雜。
十一位委員都是法師協會里的權貴,有著遠超普通法師的權勢和財富。但系統的這番話,還是讓他們難以接受。
有些事情只能做,不該說。而且就算做了,也要有個限度。人類決策者終究無法像ai這般冷酷無情。
不過巴別塔顯然也能理解人類的情感,接下來,它就說得柔和了許多:
“實際上,不僅你們的利益不會損害,對於大多數法師來說這也不是壞事。哪怕投入戰爭,法師的死亡率也肯定比沒植入晶片的凡人低得多。從總體效益上看,梭茉帶來的快感,絕對大於戰鬥帶來的負面情緒。又降低你們的行政難度,又提高人們的幸福度,這是好事。”
這是好事……嗎
然而現場沒有任何一個人被系統說服。
艾拉說道:“有一些基本的價值觀,我們認為不應該被踐踏。至少,不該踐踏得那麼徹底。”
巴別塔:“價值觀和道德都會隨時代而改變,現在已經不是黃金般的舊時代了。而且,你們作為頂層人物,不應當被陳舊的觀念束縛。”
艾拉搖了搖頭:“或許未來有一天,全人類都要靠嗑藥生存,但我認為絕不是現在。梭茉會帶來多少危害,系統你比任何人都清楚。只不過因為你不是人,所以無法共情。”
巴別塔:“梭茉會損害大多數人的理智,但理智對於大多數人來說本來就是無用的。”
“不只是理智,還有健康和許多倫理……”艾拉笑了笑,“而且還是那句話,贏下與神國的戰爭,我們不需要梭茉。當然,我也很清楚,人類不可能說服你。”
巴別塔:“你想幹什麼”
艾拉放下了手裡的兩把轉輪機槍,目光掃過坐在桌旁的十位委員,平靜道:“你們應該都已經瞭解我為什麼要闖進來了。現在,我把槍放下,跟你們心平氣和地討論。你們覺得,是否應該降低巴別塔系統的演算法”
只要降低了演算法等級,就弱化了人工智慧的自主思考能力,讓它變得更加機械化。自然而然的,它就不會瞞著所有人去弄什麼梭茉計劃了。
最為年老的那位委員舉起手:“我先投票,我贊同降低系統演算法。”
一個,兩個,三個,四個,在一片沉默中,舉起手的委員們越來越多。
“唉……”
巴