AI 會毁滅人類？ (Patreon)

AI 與「人類滅絕」：風險、機率與不確定性有何分別。

我不敢說完全沒有 AI 滅絕人類的可能性；但是這是 Uncertainty；不確定性就是，我們其實不知道它發生的機會有多大。

究竟人類文明值不值得去搏這一波呢？回報越大，風險越大。這件事的回報很明顯，對某些人來說可以非常之大；問題就是，我們究竟值不值得去冒這個風險呢？承擔這個風險的又是甚麼人呢？

人類如何在新技術下建立安全制度？

我們對上一次有這種恐懼，其實就是核武的發明之後。也都有很多人擔心，戰爭中核武會摧毀整個地球。但由核武發展到現在，其實都經歷了很長時間了，說的是八十多年的時間。也都是因為這個原因，我們有值得樂觀的地方。雖然我們知道人類是很有能力去製造破壞，但是在過程裡面，其實我們都不斷地承受這個 feedback loop。人類未必會真的愚蠢地走向滅亡的道路。

有人形容，人工智能革命比較接近第二次工業革命。第一次工業革命就是我們將人的勞動力，透過機器去取代；第二次工業革命理論上要做的事，就是將我們以為只是人類才做到的——包括思考、處理資訊——的工作交由機器去做。

AI 時代哪些工作最容易被取代？

只要是可以在電腦前面，靠打個鍵盤可以完成的工作，AI 絕對可以用更低的成本、更有效率地做了這份工作。很多我們從前以為是要靠經驗的東西，其實是可以寫成規則，可以讓機器執行的。在這些範疇我們就要小心，不可以太過自滿。

AI 令到以前很多專有的知識變得普及化；但機器仍然只會從已知、已經有的事情去出發，提出最主流的答案。所以我們一定要想，甚麼東西是不可以靠只是坐在電腦後面做。人類其實仍然有很多問題未解決，而這些問題都不是 AI 能夠解決。第一，很多人根本沒有意識到這些問題的存在。第二，就是意識到這個問題存在的人，也都未必知道這個問題為甚麼存在，或者是可以怎樣解決，何謂得到解決。

所以，機會是多了很多，但競爭都會多了很多。因為大家都是找 AI 去問，大家找 AI 去一起設計一個解決方案，想著這個解決方案可以解決到一些問題。

未來的 AI 代理如何改變客服、銀行、繳費與日常決策？

最簡單，其實一直都有 autopay，就是自動交錢、自動交各種費用：電話費、電費、煤氣費。未來應該可以有個折衷一點的位置，就是銀行它可能都有一些人工智慧，幫你看著你有沒有帳單過期。當然你可能自己有些軟體，去幫你看著你的電子帳單；甚至乎是交帳單那邊的公司，可能他們有不同的人工智慧，就提醒那些人記得交電費、交水費。

這些人工智慧之間可以有一個身份確認，又安全的方法去傳遞這些資訊。將來中間可能加入某些 process，可能有人工智慧去批准某些單，可能會將一些東西簡化了。這些慢慢慢慢就取代了客戶服務。

科技不會直接取代人；懂得使用科技的人，才會取代人。

科技本身不會直接取代人，但在科技發展之下，會用這些科技的人，將取代一些不會用科技的人。所以一個理性的結論就是，無論如何也好，就算你當自己退休了也好，多些學、多些用。不用擔心 AI 會殲滅人類，或者大規模取代人類，但它一定會帶來一些轉變；而這些轉變，你如果不去了解、不去調節一下自己，那你最終也真的很有可能會被淘汰。