第140章 現在,是我們的時代!(第1/2 頁)
機器得承認,人類才是需求的主導。
第三條原則是根據人類行為給機器設定偏好並提供依據。
這麼設定是因為機器往往不清楚如何具體實現人類的價值。
但這不要緊,人類可以協助機器實現。所以要加強人機互動。
因為郝淮構想中的機器人,目的不僅僅是為了滿足某個人或使用者的需求,而是要遵循大家公認的道德價值觀。
比如,人可能會犯錯,做出違背道德的事。但郝淮不想讓機器人模仿這些行為。
相反,他希望機器能嘗試理解人類行為的動機,理解普遍的道德觀念,並在適當時候阻止人類做不應該做的事。
這三條看似寬鬆實則嚴格的法則,不僅能限制機器人自我發展的潛力,還在某些適度寬鬆的地方,留給了機器人自我邏輯完善的餘地。
防止因某些設定過於極端的法則導致機器人邏輯矛盾,進而引發故障。
這三個法則將直接焊死在核心程式碼裡,永不可改。
“法則之後,就是防火牆和模組接入……”
“如果能確保法則不出問題,接下來就要保證病毒進不來。”
郝淮捏了捏鼻子,眼神也銳利了幾分。
在那些機械文明中,有的因程式設計時的漏洞導致人工智慧失控,有的則是人為因素。
因此,郝淮在吸收大量資料後,決定將核心程式碼純淨化!
簡單講,就是核心程式碼會被防火牆嚴密包裹。
日常執行透過複製的映象系統進行。
而且,核心程式碼不接納任何第三方程式。
這就是防火牆和模組接入的含義。
用防火牆保護核心程式碼,再透過映象系統與所有第三方程式連線。
這樣一來,所有外部程式都將以模組化形式存在。
一旦發現病毒,就能迅速隔離帶毒模組。
就算病毒侵入系統,也能直接銷燬映象系統,然後重新複製一份。
平時,核心系統完全不參與工作,
也與所有模組完全隔離。
只有當映象系統出問題時,才會人工複製一份新的。
只要核心系統不受病毒感染,就算病毒再厲害,也無法對人工智慧構成威脅。
就像電腦防毒,最粗暴的方法就是重灌系統!
而守護核心系統的防火牆,郝淮計劃定期升級。
確保防火牆技術始終領先地球二十年!
這樣一來,即便有天才出現,在郝淮反應過來前破解防火牆也很難。
只要給郝淮反應時間,就算有問題,他也自信能解決。
至於最後的終極程式碼,
那就是殺手鐧了。
真到了核心程式碼都被汙染,無藥可救的地步,
這個程式碼會摧毀所有程式!
一切歸零!
雖然代價不小,但與人類安全相比,根本不值一提。
這四道鎖將從各個層面徹底鎖死人工智慧。
要是這樣還能出問題,
那隻能說地球真是多災多難了。
“就是這工作量有點大啊!”
“算了,先搞定核心程式碼和三大法則。”
“其他的一步步來吧。”
整理了一下思緒,
郝淮揉了揉有些發疼的額頭。
這不是過家家,這麼龐大的防禦體系,容不得半點差錯!
必須慎之又慎!
用最簡潔的編碼,編寫出所有的程式碼!
…………
正當郝淮全身心投入人工智慧時,
五月中旬,宣傳已久的王偉