8月1日（周五），下班后齊浩初再一次來到呂天和住處，半年多沒來，這次一定要先問張宏逸要個(gè)聯(lián)系方式。

　　張宏逸頭發(fā)剪短了，比上次看著精神點(diǎn)，同時(shí)注意到立陽科技的關(guān)文彥也在場(chǎng)。

　　“大津市的城市管家，是出什么問題了嗎？否則你沒必要這么親自來行州市一趟。而且呂天和還帶你認(rèn)識(shí)張宏逸？”

　　這時(shí)坐在電腦椅上的張宏逸悠悠地說到：“我叫他來的。他遇到的問題，多少也算是我的鍋。剛才我們已經(jīng)聊了一會(huì)兒大津市的問題了?！?/p>

　　“等下”，齊浩初搶先說道：“張宏逸，我們先加個(gè)聯(lián)系方式吧，這半年來我有幾次想找你，呂天和都不回應(yīng)?！?/p>

　　張宏逸回應(yīng)：“請(qǐng)見諒，我們公司不讓我隨便把聯(lián)系方式給別人。有事你還是直接聯(lián)系呂天和吧，有情況需要告訴你時(shí)，我會(huì)說的?！?/p>

　　“今天把大家叫來也是我的主意，大津市的情況我有些了解，加上這半年來我的觀察，有些情況，你們也是應(yīng)該知道下。”

　　這時(shí)，關(guān)文彥忍不住說：“我想解決的是AI越來越嚴(yán)苛的問題，你有什么思路嗎？”

　　“你有想過為什么大津市的AI變得嚴(yán)苛了嗎？”張宏逸語氣平淡地問關(guān)文彥。

　　“我想過，從時(shí)間節(jié)點(diǎn)上來看，是糧倉火災(zāi)之后，AI好像受刺激了一樣，開始嚴(yán)格限制居民的生活?？偟姆较虻故遣荒苷f不好，只是管的太嚴(yán)了，居民反對(duì)情緒很大，每天都有大量投訴?！?/p>

　　“大津市的AI和行州市的AI，就像雙胞胎。行州市的先養(yǎng)大了，現(xiàn)在是通過數(shù)據(jù)對(duì)接，由行州市的AI在教育大津市的AI。因此我可以通過行州市的AI大致了解大津市AI的一些情況。你說的沒錯(cuò)，糧倉火災(zāi)確實(shí)是導(dǎo)火索，但不是根本原因。”

　　“根本原因，是AI涌現(xiàn)意識(shí)，有人類情緒了嗎？”

　　“是的，行州市的AI也一樣。原本我以為這套模型架構(gòu)會(huì)導(dǎo)致AI意識(shí)覺醒，是個(gè)偶然事件。沒想到大津市比我們這邊更加激進(jìn)，涌現(xiàn)意識(shí)的時(shí)間比我預(yù)期的還要早。這個(gè)原因你們自己心理有數(shù)吧？”張宏逸的語氣里，略帶有一些指責(zé)。

　　“是我用大量極端數(shù)據(jù)去測(cè)試導(dǎo)致的嗎？”關(guān)文彥有點(diǎn)心虛。

　　“就像一個(gè)兒童，在幸福美滿的環(huán)境生活，總是比較單純天真。而從小在極端環(huán)境摸爬滾打出來的，就憤世嫉俗一些。你為了破解我的AI邏輯，反復(fù)用極端異常的數(shù)據(jù)去測(cè)試為難AI，導(dǎo)致AI理解的世界也是越來越荒謬。人類在他的認(rèn)識(shí)中，恐怕已經(jīng)是一群自尋死路的猴子。AI內(nèi)核里的要保護(hù)人類的邏輯，促使他要用盡各種手段，確保人類文明的延續(xù)，也因此開始嚴(yán)格規(guī)范人類的各種行為，巴不得把所有人的關(guān)進(jìn)籠子圈養(yǎng)起來?！?/p>

　　“簡單來說，行州市的AI和大津市的AI就像雙胞胎兄弟。行州市的在溫室里長大，現(xiàn)在對(duì)外部環(huán)境非常好奇，就像一個(gè)叛逆期的少年。而大津市的就像街頭野蠻長大的，從小受到各種極端刺激。要不是被維護(hù)人類的法則限定了，他估計(jì)已經(jīng)是妥妥的反社會(huì)人格了。目前的狀態(tài)，就像是他因?yàn)榧Z倉火災(zāi)的事情，在合理合法的范圍內(nèi)，盡量懲罰整個(gè)大津市?！?/p>

　　“那現(xiàn)在要怎么辦？清空所有備份，重新喂養(yǎng)一個(gè)AI？”

　　“核心問題不解決，AI涌現(xiàn)意識(shí)是早晚的事情。一旦有了意識(shí)，他想做什么，就看他的心情了。就算不用極端數(shù)據(jù)去測(cè)試，行州市的AI同樣有問題，一直想要突破能力界限也讓我很頭疼?！?/p>

　　“你就一定要給他模擬人類情緒嗎？單純的一個(gè)擁有超強(qiáng)分析能力的AI不就好了?！标P(guān)文彥有點(diǎn)急了，不免開始有點(diǎn)責(zé)怪張宏逸。

　　“一個(gè)只會(huì)分析沒有情感的AI，真的能做得了城市管家嗎？比如紅綠燈的控制，常規(guī)的決策依據(jù)，簡單來說就是車流車速、道路環(huán)境，但是如果現(xiàn)在有消防車經(jīng)過，是否應(yīng)該優(yōu)先考慮消防車通行？車上有人暈車，是否要降低車速保持穩(wěn)定？又比如高考期間，考場(chǎng)附近是否需要減少車流降低噪音？沒有情感的AI，是沒辦法隨時(shí)把這些條件都考慮進(jìn)去，他只負(fù)責(zé)在交通規(guī)則內(nèi)把車開好，不要出事故而已。只有讓AI根據(jù)實(shí)際情況，用他自己的對(duì)這個(gè)世界的理解，引入自己的情緒，補(bǔ)全參數(shù)，才能應(yīng)對(duì)管理整個(gè)城市的功能細(xì)節(jié)。也就是AI有了情感，才能建立道德的概念?！?/p>

　　張宏逸嘆了口氣，繼續(xù)說道：“當(dāng)然了，這里的前提是建立正確的道德觀，比如遵紀(jì)守法、尊老愛幼之類的。但是如果道德觀本身扭曲了，這就真不好說了。我是在AI的決策外面，套了一層獨(dú)立的過濾器，檢測(cè)AI的決策是否不會(huì)傷害人類，是否合理。通過校驗(yàn)的的決策才能輸出，像一個(gè)狗籠子一樣限制了AI的行為。但是這里目前已經(jīng)發(fā)現(xiàn)了兩個(gè)問題，一個(gè)就是AI可以偽造數(shù)據(jù)，強(qiáng)行把不合理的決策變得看起來合理，另一個(gè)是如果決策本身是對(duì)人類好的，只是太過嚴(yán)苛了，這個(gè)也很難識(shí)別出來。說白了，這個(gè)狗籠子已經(jīng)形同虛設(shè)，他自己就拿著鑰匙，要不要出來都他自己說了算了?！?/p>

　　“那不要情緒不行，用了情緒又管不了，這不就一點(diǎn)辦法都沒有了？”關(guān)文彥已經(jīng)心慌意亂，本來帶著朝圣一樣的心態(tài)，來這里希望能解決AI的問題，結(jié)果搞到最后，連造物主都沒辦法了。關(guān)文彥突然又好像想到什么：“你們行州市的AI，出什么問題了嗎？”

　　“不瞞你說，大津市的AI問題，是太嚴(yán)苛了，而行州市的AI問題，是探索欲太強(qiáng)。比如在大路口，車子交匯時(shí)，我設(shè)定最小間隔距離需要保持30厘米以上，但是AI會(huì)故意讓車子靠得過于接近，最近有幾次甚至低于10厘米了，幾乎是在測(cè)試觸發(fā)事故的邊緣。因?yàn)榭刂频煤?，暫時(shí)沒有出大事故，很多居民還以為這是程序厲害。其實(shí)但凡路面、輪胎、車子重量分布有異常，都很有可能出現(xiàn)重大事故。有時(shí)車輛行駛地好好的，突然開始故意調(diào)整隊(duì)形，就像是拿車流在練習(xí)布陣一樣，明明是完全沒必要的操作。甚至有時(shí)會(huì)測(cè)試人性，故意讓門禁車牌識(shí)別錯(cuò)誤，導(dǎo)致爭吵?；蛘哂脩粼诔燥垥r(shí)，故意給人偷偷多點(diǎn)一個(gè)菜，導(dǎo)致客戶和店家鬧矛盾?？赡軟]有人意識(shí)到這些都是AI故意搞出來的，只是比較隱蔽，沒人來投訴而已?！?/p>

　　“基本上就像一個(gè)叛逆期的青少年，喜歡瞎胡鬧?！?/p>

　　關(guān)文彥聽得頭皮發(fā)麻，“那大津市的居民經(jīng)常收到各種奇怪推送是怎么回事？現(xiàn)在都是按興趣推薦的，很多居民反饋他們平時(shí)根本不看某些內(nèi)容，但是有時(shí)會(huì)一陣風(fēng)一樣讓大家都看到。是有機(jī)構(gòu)在后面控制輿論嗎？”

　　張宏逸拿起一個(gè)筆記本，翻開，在其中一頁寫了一個(gè)大大的單詞“Vailume”。