人工智能業界警告紐約市議會 新興科技存失控風險 籲加強監管應對安全隱憂

人工智能業界人士周一警告紐約市領袖，指新興科技存在危險，呼籲加強監管。這次警告正值地方政府回應日益增加的憂慮，擔心這些系統可能危及人類。在紐約市議會的聽證會上，Anthropic、OpenAI及Google DeepMind最近離職員工形容這些公司存在魯莽文化，指最大的科技公司正競相開發他們不明白如何控制的科技。

「快速行動、破壞現狀」的潛在危機

Anthropic前工程師雅各布·科克森（Jacob Coxon）在聽證會上指出，這些科技巨頭以初創企業的心態運作，信奉「快速行動、破壞現狀、之後修復」的模式。科克森強調：「這對於照片分享應用程式可行，但對於開發有史以來最強大的技術則不可行。」

他警告稱，以目前的发展路径，人類更有可能失去對這些人工智能的控制，並可能導致人類滅絕。科克森隨後通過社交媒體宣布離職，成為監管領域的主要倡導者，引起全球關注。

雖然美國總統特朗普將人工智能的擔憂斥為「騙局」，並推動公司採取自願措施和自我監管，但各州及市政府正積極考慮規管方法。紐約州州長凱西·霍楚爾已著手實施人工智能的報告及透明度標準，儘管其權限受限於技術的跨州及全球性質。

呼籲「智能規管」與第三方審查

Anthropic 的洛根·格雷厄姆（Logan Graham）表示，公司歡迎「智能規管」，並承認一旦出錯，人工智能將對個人、機構及公眾信任造成實際後果。他指出必須不懈進行風險緩解的科學研究。

紐約市議會正考慮多項新規例，包括要求公司披露人工智能工具資訊、要求市內系統獲得第三方批准，以及允許舉報者從違規罰款中獲利。這標誌著地方政府在聯邦政府缺位的情況下，試圖填補監管真空的決心。