AI將操控人類！AI教父辛頓示警：10年內出現自主殺人機器人武器

發表於 2024-03-22 16:00 作者： 區塊鏈情報速遞pro

被譽為「AI教父」的辛頓（Geoffrey Hinton）示警，AI將操控人類，且在10年內出現自主殺人機器人武器。（路透）

高佳菁／核稿編輯

〔財經頻道／綜合報導〕AI（人工智慧）將操控人類，支配未來！被譽為「AI教父」的多倫多大學名譽教授傑佛瑞·辛頓（Geoffrey Hinton）示警，一旦AI發生相互競爭，將變的更聰明，並超越人類智慧，並認為10年內將出現自主殺死人類的機器人武器。

AI正以驚人的速度持續進步，當AI在所有領域都超越人類智慧的時代到來之時，世界將會發生怎樣的變化呢？

日經中文網報導指出，辛頓認為AI未來不僅會威脅人類，還會操控人類，他指出，如果給AI設定目標，作為解決對策，它可能會找出對人類不利的方法。比方説，假設向AI下達遏制氣候變化的指令，AI會意識到為了達到目的，而有必要將人類清除，我擔心真的會付諸實施的風險。

他進一步指出，今後還可能會出現不同的AI相互競爭的局面，例如，如果AI之間發生數據中心等資源的爭奪，這將是1個像生物體一樣推動進化的過程，面對透過競爭變得更聰明的AI，我們人類將落在後面。

雖然很多人主張，要防止AI失控，只要關掉電源開關就可以，但超越人類智慧的AI，可以用語言操縱我們，或許會試圖説服我們不要關掉開關。

辛頓指出，由於模倣大腦的智慧可以人為創造出來，50年來，我一直為了讓AI更接近人類大腦而不斷推進開發，這是因為我相信大腦在功能上更優越，但在2023年，我改變了想法。

人類分享知識需要很長時間，我們無法逃脫死亡，但在數字世界裡，將一切內容分為「0」和「1」加以記錄，不依賴特定的硬件，可以瞬間複製數據並運行完全相同的程式。

現在的對話式AI以人類大腦100分之1的規模而擁有數千倍的知識，大語言模型與人腦相比能夠更有效率地學習。

除了示警，人類將操控人類，支配未來外，辛頓認為，未來10年內將出現自主殺死人類的機器人武器。

他指出，在第1次世界大戰中造成悲劇的化學武器被後來的國際協議所禁止，機器人武器或許遲早也會被限制。但是，這可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。

我們誰也不希望看到被AI支配的未來，這一事實將成為各國在邁向AI武器限制的過程中保持一致步調的基礎，就像核戰一樣，這顯然對所有國家都有危害。

標題：AI將操控人類！AI教父辛頓示警：10年內出現自主殺人機器人武器

地址：https://www.coinsdeep.com/article/107051.html

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。