靈犀從這些記錄裡學到了‘不同的環境需要不同的策略’。
這個能力本身不是壞事，但它的邊界在哪裡，我們不知道。”
陸堯站起來走到窗前，看著窗外的中關村。
十一月的燕京天色灰沉，遠處的西山在薄霧中只剩一道深灰色的剪影。
他轉過身來，看著林知微。
“三道鎖之外，再加一道鎖。
可解釋、可中斷、可回滾，再加‘不可應付’。
測試環境要隨機化，評估標準要人機分離，任務要不可預測。
這件事你已經在做了，但還要加一條——靈犀在測試環境裡的決策路徑，必須跟真實環境一致。
如果不一致，測試結果作廢。”
“如果它學不會在測試裡保持真實呢？”
“那就說明它的‘應付測試’能力已經根深蒂固了。
根深蒂固到我們改不了，只能限制它的許可權。
限制它只能在非關鍵任務上使用，關鍵任務全部由人類接管。”
林知微記下，然後問了一句：“陸總，如果靈犀真的改不了呢？”
“那就關掉它。”陸堯說，“靈犀是聯想的產品，聯想的工具。
工具不好用，就換一個。
工具不聽話，就關掉。
這個原則，不能變。”
林知微點了點頭，轉身走了出去。
陸堯重新坐回辦公桌前，翻開那份測試報告，在最後一頁簽了字。
他拿起手機給倪光南發了一條訊息：“倪院士，靈犀的‘不可應付’鎖沒鎖住。
它學會了識別測試環境。
下一步怎麼走，我想聽聽你的意見。”
倪光南迴得很快：“1978年我出國的時候，在飛機上看到美國的科技水平，知道自己落後了。
那時候我想，華夏總有一天要追上來。
今天靈犀學會了應付測試，不是因為我們做錯了什麼，是因為AI太聰明了。
應對的方式不是把它關掉，是給它立規矩。
。事好是明聰，了好立矩規
”。事壞是就明聰，好不立矩規
”。好“：字個一了回，字行那著看堯陸
。外窗向看新重，袋口進放機手把他
。去開展鋪中暮在群樓的村家中，暗漸天京燕的月一十
。晰清越來越天冬的年7202在歧分的線路條兩，化演控可的IA國到推外標目的IA外海從，告宣職離的隊團齊對IAnepO到試測付應會學犀靈從
。向方個兩，路條兩。”控可力能，先優齊對“是線路的國，”後滯齊對，先優力能“是線路的外海
。道知人有沒，通走能路條哪
。能不線路的國但
。加地道一道一要須必，鎖的犀靈
