第139章 人類才是需求的主導(第2/2 頁)

因為在浩瀚的宇宙面前，

不論什麼文明，初踏出宇宙時都是渺小而卑微的。

要想快速增強實力，就需要更多勞動力來支撐。

就拿地球來說，80億人口在地球上或許很多，但對於即將到來的宇宙大開發時代，簡直是杯水車薪。

因此，許多科技文明會選擇解鎖人工智慧。

用機器人來承擔重複枯燥的體力勞動。

將人力投入到各行各業的高階領域。

這是多數科技文明的選擇，郝淮也不例外。

但人工智慧雖好，卻也有風險。

就像電影裡那樣，一旦出錯，或被別有用心之人操控。

那就是一場災難。

“哎……真是雙刃劍啊。”

“用也不行，不用也不行……”

一想到腦子裡吸收的那些資料，郝淮就覺得頭疼。

宇宙中，原本沒有機械文明這一說。

但後來，隨著不少科技文明對自家人工智慧失控。

這才誕生了所謂的機械文明。

而這些機械體大都有缺陷或感染病毒之類的問題。

超過九成的機械文明都是一群戰爭狂人。

依靠機械體強大的繁殖力，瘋狂燒殺搶掠。

不知有多少文明毀在了這一步。

當然，也有一部分機械文明完成了自我升級，徹底彌補了自身缺陷。

進而進化成智械生命，擁有了完整的情感和獨立的科技體系。

這些智械生命，其實已不能算是機器人，它們有情感，會痛，會笑，會悲傷。

它們已經成為生命！

而且一旦達到這一步，機械體的優勢會被無限放大。

雖然能進化到這一步的機械文明很少，但每一個都強大無比。

當然，現在想智械生命的事兒還早得很。

郝淮當前最緊要的事兒，就是確保自己編寫的智慧程式，別鬧出變異或漏洞來！

不然，對整個地球來說，那可就是個大麻煩。

研究室內。

郝淮手指飛快地敲擊著鍵盤。

一行行程式碼在編輯器裡嗖嗖閃過。

“呼……”

“三層防護，防火牆，模組嵌入，終極程式碼……”

“應該差不多夠用了……”

郝淮邊嘀咕邊編寫著程式。

看了那麼多資料文獻，

對於人工智慧，他也算是有了套比較成熟的見解。

說白了，就是取百家之長。

高階文明的程式設計技術用不上，那就得把低階文明裡那些成功的理念整合起來。

透過學習他們的程式設計技巧和思路，來增強人工智慧的安全性。

琢磨了好幾天，

郝淮最終決定給人工智慧設下四道防線。

首先是三層防護。

直接在核心繫統裡把三個法則永久鎖定。

第一條是利他主義！意味著機器的唯一目標是最大限度地實現人類的目標和價值。

第二條是謙卑原則，即人工智慧應對人類保持敬畏。

按照這條原則，人工智慧要承認自己並非全知全能。

也就是說，機器要明白要最大化人類的價值，但同時也要清楚自己並不能完全理解價值的意義。

因此，為了對人類有用，它得透過觀察人類的選擇，根據人類提供的資訊去學習、掌握人類的需求。