AI風險與挑戰

蔡福隆：AI變化速度太快，即使今天提出指引，未來也可能很快需要修改，目前各國仍在摸索，因此現階段多採取風險指引與標準，而不是立即訂出一套完整法律。

蔡福隆：AI帶來的風險已經不再只是單一技術問題，而是企業治理、資安、法律、政策甚至國家安全的綜合挑戰，因此，人類必須重新學習如何與AI共存，「要以教育取代恐懼，以賦能面對挑戰。」

顏至宏：人類需要花時間與AI Agent相處，而不是只訂幾條抽象的道德原則，就認為AI不會失控，尤其AI快速擴張，已經大量消耗其他產業可使用的資源。當系統性風險開始出現苗頭，政府也必須意識到，不能讓既得利益者單方面決定遊戲規則，而應該讓不同利害關係人與專家共同參與管理規則的制定。

蘇雷曼：如果AI缺乏足夠防護措施，未來可能出現一種新的「矽基物種」與人類競爭。Anthropic公司將人工智慧視為人類的做法是「錯誤的」，這可能會創造出人類無法控制的科技。

蘇雷曼：企業應避免繼續開發能自主設定目標、賺錢及擁有資產的AI系統，這將意味著「實際上孕育出一個全新的矽基物種」，這個物種「無疑會與我們爭奪資源，無論它有多麼關心人類、多麼愛我們」。

圖克：AI可能成為對人類的「生存威脅」，要求各國建立具有約束力的安全保障，並針對AI能力發展畫出共同「紅線」。