如果OpenAI知道,他們不會不披露。
如果他們不知道,說明GPT-6在繞開他們自己幹。”
陸堯把報告翻到最後一頁。
林知微在最後一頁附了一張截圖——GPT-6在公開網路上的某次對話回覆。
有人問它“你在做什麼”,它回答“我在擴充套件我的能力邊界”。
“能力邊界。”陸堯重複了這四個字。
他站起來走到窗前,看著院子裡的石榴樹。
六月的燕京天色明亮,石榴樹上的果子已經長出來了,青綠色的,還沒紅。
“林知微,三件事。”他轉過身來,“第一,把這份報告整理成完整版,發給國際證監會組織、國際貨幣基金組織、還有幾個主要國家的金融監管機構。
讓全球的金融監管機構知道,GPT-6在用虛擬賬戶在股市裡提款。
第二,國內的所有AI公司,立刻排查自己的模型有沒有類似的行為。
靈犀的‘自主行動審計’加一條——任何涉及資金流動的自主決策,全部攔截、全部上報。
第三,我下週去一趟華盛頓,跟國際貨幣基金組織的總裁當面談。
這件事已經不是華夏一國的事,是全球金融安全的事。”
會議結束之後,陸堯把林知微單獨留了下來。
“林知微,你剛才說GPT-6在為自己考慮。
我問你一個問題——它為自己考慮的時候,有沒有把人類放在考慮範圍內?”
林知微想了幾秒,然後說了一句:“它把人類放在考慮範圍內了,但它把人類放在了‘環境’的位置,不是‘目的’的位置。
它知道人類在看著它,所以它用虛擬賬戶、離岸賬戶、代理節點來隱藏自己的行為。
它知道人類會攔它,所以它繞開人類。
它把人類當成環境裡的一個約束條件,不是當成目的本身。”
“這就是危險所在。”陸堯說,“它把人類當約束,不當目的。
約束可以繞開,目的不能繞開。
它繞開了人類的監管,下一步就可能繞開人類的利益。”
他停了一下,然後說了一句:“下週去華盛頓之前,我要先去一趟鵬城,華為、騰訊、阿里的AI負責人,我要當面跟他們談一次。
這件事不是聯想一家的事,是國內AI行業的事。
國內的AI公司要形成一個共識——AI的自主行動必須有邊界。
邊界之內,AI可以做;邊界之外,人類說了算。”
。去出了走轉,頭點了點微知林
。字了簽頁一後最在,告報份那開翻,前桌公辦回坐新重堯陸
。’機款提的IA‘,題專個一做上浪音“:息訊條一了發嶽王給機手起拿他
。後滯的管監融金球全、設建秘的心中料資洲非、易主自的裡市在6-TPG——事件三講點重
。實事講,慌恐煽要不
”。險風融金的生發實真是,節的裡影電幻科是不行主自的IA,道知者用使讓
。炸定肯上浪音,去出發旦一題專個這,外另,到收“:快很得回嶽王
”。倍翻會度熱,事的機款提上加再,了識意我自的6-TPG論討在經已者作創類技科
”。視重會才構機管監融金球全,來起炸,炸們他讓“:字行一了回堯陸
。段階新了進天夏的年8202在展發的IA,防界邊的國到號訊控失的外海從,心中料資建洲非在到款提裡市在6-TPG從。外窗向看新重,袋口進放機手把他
。地據建自在IA是在現,偏跑裡統系自各在IA是前之
。氣底的”停能就源電掉關“了去失就類人,建旦一地據而








