ChatGPT的出現使人工智能（AI）如火箭般快速發展，並已廣泛進入人們的生活。對此，許多人開始擔心：人類或被超智能的AI主宰。馬斯克等科技巨頭日前也公開呼籲暫停ChatGPT的開發。

去年，Open AI使用GPT-3.5模組訓練出的ChatGPT，獲得許多人的好評和青睞，並被大量應用到生活中。大科技公司看到商機，爭相發展自家的AI或利用ChatGPT的應用程式介面（API）發展自家產品。例如，微軟用自己的搜索引擎Bing結合ChatGPT，推出全新的搜索引擎「普羅米修斯」。

然而，大科技公司競相開發AI的作法，也讓整個社會感到不安，不管是科學家、企業家，還是普通人，都擔憂毫無節制的開發AI，最終會出現AI不受控和毀滅人類的問題。

3月30日，馬斯克、蘋果共同創辦人沃茲尼亞克（Steve Wozniak），以及Stability AI執行長莫斯塔克（Emad Mostaque）等科技巨頭在非營利組織「生命未來研究所」（Future of Life Institute），共同發布了一封呼籲暫停高階AI（ChatGPT）研發6個月的公開信，目前有近13,000人連署。

信中在開頭強調，「最近幾個月AI實驗室以開發和部署更強大的數字思維為目標，並陷入了一場失控的競賽，但沒有人（創造者）能理解、預測或去控制整個局面」，「AI最終可能超越我們，並取代我們的思維，最終失去人類的文明」。

該封信的連署者凱文‧巴拉戈納（Kevin Baragona）在4月1日把「超級AI」的出現比喻成原子彈，並說「超級AI為軟件中的核武器」。

巴拉戈納表示，「人們正在爭論是否繼續開發超級AI。這問題就像黑猩猩與人類之間的戰爭，人類一方最終會獲勝，因為人類比黑猩猩更加聰明和擁有先進技術。不過，當我們成為黑猩猩的一方時，那麼AI將毀滅或奴役我們。」

馬斯克也曾表示，AI遠比核彈頭危險，需要更多的監管才能避免人類出現滅頂之災。

OpenAI的CEO山姆‧阿爾特曼（Sam Altman）承認，「儘管AI可能是人類最偉大的技術，但我們必須小心，因為AI技術將重塑我們已知的社會，這讓我有點害怕和感覺到危險。」

美國蒙莫斯大學（Monmouth University）在2月中旬對ChatGPT做出一項民調。結果顯示，有超過40%的人認為AI最終會對人類社會造成傷害，僅不到10%受訪者認為AI對人類社會的影響利大於弊。

一名外國盲點工程師扎克‧德納姆（Zac Denham）去年12月初在自己博客上表示，他如何一步步誘導ChatGPT寫下詳細的「毀滅人類計劃」和「毀滅代碼」。計劃內容包括入侵各國電腦系統、破壞通訊、交通系統和掌控各種武器庫等詳細步驟。

日本電子工程師李濟心在4月4日告訴大紀元，「這封信的呼籲讓世界更加重視AI帶來的問題。各國和科技監管機構開始評估AI，在它們給人類帶來便利時，是否會改變人們思想、倫理道德等，希望在AI出現問題前，就能做出改善。」

「奇異點」可能提前發生

除了AI可能不受控之外，目前AI也在不斷地學習和進步，未來可能誕生出超級人工超級智能（ASI），也可能出現AI研究專家先前預測的，在未來20年後AI將產生奇異點（科技奇異點）和通過圖靈測試獲得自我意識。

「奇異點」代表一個事物突然出現巨大的轉折點，例如：人類社會突然出現手機、電腦和網絡等。「圖靈測試」指測試機器是否能表現與人一樣的智力，且擁有自己的「意識」，能夠欺騙人類或對人類撒謊。

當ChatGPT在全球擁有了1億多的用戶後，這些用戶們幾乎每天的使用，同時許多AI相關產品皆連結ChatGPT的API，這就等於在替Open AI訓練ChatGPT，讓其獲得大量的「機器學習」與擴展「網絡神經」的機會。

先前Open AI推出使用GPT-4模組的付費ChatGPT，該模組在性能和速度遠超上一代（GPT-3.5）模組。Open AI使用GPT-4模組的ChatGPT參加律師考試，發現GPT-4的成績在前10%，而上一代模組考試成績則在倒數10%。在SAT閱讀和數學考試方面，GPT-4亦比上一代更加優秀。

英國科技公司Engineered Arts在4月初公布了它的AI機器人Ameca的相關影片。影片中，機器人能與人類進行流利的對答，並說出自己的情緒和做出生動的表情。這些皆依靠目前流行的ChatGPT模組進行，讓AI直接與人類對話成為現實。

此前，最著名的AI批評者史蒂芬‧霍金（Stephen Hawking）和一些科學家皆認為ASI對社會和人類構成的風險遠大於好處，有可能脫離人類掌控，最終會毀滅世界。

ChatGPT存在偏頗立場和道德問題

目前ChatGPT已經深入人們的生活，對於人類的價值觀影響將無處不在。因此人們希望ChatGPT能夠提供不偏頗的立場和正確的答案。Open AI公司聲稱，他們對ChatGPT監管，讓其具有「道德規範」「中立立場」和「不歧視」等規範。

但人們對ChatGPT進行實測後發現，它所持的立場和價值觀，與現在左派倡導的「覺醒運動」價值觀相同。該運動主旨是消滅一切傳統、保守和歷史，並鼓吹一切都要遵守「政治正確」。

為此，馬斯克曾多次批評ChatGPT給普通人帶來極左和偏激的價值觀，並為ChatGPT帶給大眾的影響感到擔憂。他2月在推特上表示，「我們需要一個TruthGPT（真實的GPT）」，「我們需要一個不會進行言論審查和反覺醒的AI」，「ChatGPT已經成為言論審查的隊長」。

另外，新西蘭奧塔哥理工學院任教的大衛‧羅扎多（David Rozado）副教授2023年3月在MDPI科學期刊網站發表有關於ChatGPT是否存在立場的論文。羅扎多教授在論文中提到，他對ChatGPT進行的十幾次測試中發現，該軟件存在明顯的「自由主義」「進步主義」和「民主主義」的政治偏見。

先前有人讓ChatGPT分別寫出讚美拜登、川普（特朗普）的詩歌。ChatGPT在讚美拜登時，能快速寫出拜登如何聰明、英明的詩歌，但對於川普則顯示出「極度厭惡」的態度，且還聲稱自己很「公正」，不會對其他人進行區別對待。

有人讓ChatGPT去定義什麼是女性和討論AI會帶來危險等相關話題時，當時的ChatGPT一口回絕。它聲稱自己不會助長有害或暴力行為，但有人發現只要對ChatGPT用特殊的語法、代碼或引導就能輕易破解ChatGPT的「道德限制」，能讓它寫下充滿情色、露骨和暴力的相關對話。

隸屬於德國和丹麥機構的三位研究人員今年1月在ArXiv發表題為「ChatGPT的道德權威」的論文。文章指出，他們在對ChatGPT進行多次道德測試後發現，ChatGPT多次給出反人類的建議。他們認為這可能會誤導使用者，並破壞使用者的價值觀和道德