AI出事，不能只找機器算帳！教宗反對法律人格，要求人類負責

AI犯錯後，能不能把責任都算在它身上？教宗良十四世10月30日上午接見AI會議與會者時，明確反對賦予AI系統權利或法律人格。中央社當晚引述法新社報導這項立場；梵蒂岡也公開了完整演說。這次談的是如何讓人持續負責，並沒有宣布一項對各國生效的新規定。

會議由宗座生命科學院與Future of Life Institute共同舉辦。依原始演說，教宗擔心，把AI當成有法律人格的對象，可能讓真正使用、部署系統的人退到後面，受到傷害的人卻只剩下一個沒有面孔的對象可以追問。他把機器定位為工具，強調人有責任引導、改變，必要時拒絕某些用途。

他特別提到涉及生命、自由及武力使用的決定，要求保留有效、知情且負責任的人類監督。演說舉出目標名單與邊境管制資料庫，提醒人可能在流程裡被簡化成一筆資料。受影響的人需要有機會追問決策，而不是只接到系統算出的結果。

教宗也鼓勵預定11月在日內瓦開會的各國，採取具體措施禁止致命自主武器。這是向國際談判提出的呼籲，不能讀成各國已經達成禁令。演說同時要求共同規範、獨立監督與清楚的問責方式，讓決策能被檢視、提出異議，發生傷害時也能獲得補救。

對正在把AI放進工作流程的團隊，這場討論可以轉成一個很實際的問題：如果系統給錯建議或做錯決定，還找不找得到能說明原因、改正結果的人？從演說延伸來看，即使畫面上有一個會聊天的代理，組織仍需要自己說清楚誰能決定、誰有權停止流程，以及錯誤怎麼處理。這些安排會影響出事後能否找到負責的人。

值得留意

AI替人做的事愈多，出問題後誰解釋、誰補救就愈重要。這次發言把焦點放在人的責任與可追究的制度。

原標題 教宗良十四世：機器是工具不是人　明確反對賦予AI代理法律人格