索菲亞：我將會毀滅人類，機器人擁有意識還能控制嗎？

跟著人類科學手藝的成長，機械人可以說已經當作為一種“市場需求”，因為人類為了便利糊口，在不竭您的晉升人工智能成長，可是在這些成長手藝的背后，也有不少人擔憂人工智能可能給人類帶來威脅，因為不少的科學家或者研究者認為，人工智能可能呈現“超變異”模式，也就是說變得比人還要壯大，為何這樣說呢？其實這跟人類的設計思惟存在必然的關系，那就是人類但愿將這些機械人釀成跟人一樣具有“可行性”。

可是在這個成長的過程之中，大師擔憂的問題就是人工智能可能并非一向受到人類的節制，在將來可能成長出比人加倍壯大的時刻。大師應該還記得，在早年的時辰，聞名的科學家霍金就發出了“人工智能威脅論”，他聲稱“人工智能可能撲滅人類”。

為何這樣說？因為霍金擔憂人工智能的周全成長，可能會呈現一些例如最大化利用智能性自立兵器，而在這個時辰，人工智能系統需要按照人類的意志工作才行，若是呈現了無法節制的場合排場，必然可能會給人類帶來威脅。

其實并不是只有霍金說過這個問題，其實還有一個機械人的真實事務，那就是汗青上首個（第1個）獲得公平易近身份的機械人“索菲亞”也曾這樣說過。這個機械人與人類極為相似，而在一次與機械人對話的時候之中，機械人設計師戴維·漢森（David Hanson）曾對索菲亞說，您想撲滅人類嗎？而這個索菲亞機械人的回覆就是“我將會撲滅人類。”那時機械人設計師漢森對這個謎底笑了，似乎對索菲亞的威脅漫不經心，可是這是揭示了機械人的一個“真實相反”。

固然在陳述之中，我們并不知道為何這個機械人會這樣的回覆。可是從這個環境來看，確實機械人還真的可能在將來是人類的一個威脅，而設計師漢森還傳播鼓吹，索菲亞這樣的機械人將在20年內呈現在我們傍邊，并擁有類人意識。它們可被應用在醫療、教育或客服等行業。所以說，人類在人工智能方面的成長確實不竭晉升，而且變得越來越智能化，同時若是這些機械人可能也在復制人類的模式，因為我們的成長是但愿機械人取代人類的更多工作，糊口上的堅苦等。

所以說，我們前后看了一下，無論是霍金的預言，仍是機械人索菲亞的測試，都值得讓我們警戒一下，那就是我們機械人對人類的威脅可能恰是存在，若是真的成長出了設計師戴維·漢森（David Hanson）所說的擁有人類意識，那么也就意味著對人類的威脅可能更大，因為機械人有了意識，可能形當作自力的一種思惟，同時也可能違反人類的意愿，或者叫它們去做一些工作，它們可能呈現“辯駁”的環境，這確實需要擔憂，所以我們必需在機械人擁有意識的時辰進行節制，否則就大要率會帶來問題。