350專家聯署警告：AI威脅相當核戰、疫症

Description

【明報專訊】全球超過350名科技業界高層主管、相關專家和研究人員周二（5月30日）聯署的聲明警告，各國應致力降低人工智能（AI）技術所帶來的「人類滅絕」風險，並將應對AI帶來的人類滅絕風險「與應對疫情大流行和核戰，視為同級的全球優先要務」。聯署者包括AI聊天機械人ChatGPT母公司OpenAI行政總裁奧爾特曼、有「AI教父」之稱的電腦權威欣頓，以及兩名香港的大學學者等。

 

 

AI聊天機械人ChatGPT可依據簡短指令編寫文章、詩歌和對話，去年底面世後一炮而紅，成功帶動AI領域數以十億美元計的投資，但質疑者和業界人士多次警告，AI發展有危險傾向，其冒起可能導致假消息充斥、帶有偏見的演算法可能產出種族主義內容，AI驅動的自動化也可能摧毁一些行業等。

AI教父、OpenAI總裁有份

包括ChatGPT母公司OpenAI行政總裁奧爾特曼（Sam Altman）、有「AI教父」之稱的電腦權威欣頓（Geoffrey Hinton）、香港大學哲學系助理教授薩拉丁（Nathaniel Sharadin）和香港浸會大學宗教及哲學系教授皮耶塔里寧（Ahti-Veikko Pietarinen）在內的超過350名專家，周二在以確保AI安全為宗旨的非牟利組織「AI安全中心」（Center for AI Safety）網頁發表簡短聲明。聲明只有一句，未詳細說明AI可能帶來的潛在生存威脅，只說「各國應該視減少AI帶來的人類滅絕風險，與對付其他社會級風險如疫症大流行和核戰般屬同一級別」。

薩拉丁昨向本報表示，他認為AI的發展並不一定帶來災難結果，甚至可造福人類，惟關鍵在於全球盡快合力設立有效管理制度，以防範風險（見另稿）。

 

 

促各國降「人類滅絕」風險

今次並非首次有專家公開質疑AI危險性，但《衛報》引述牛津大學教授奧斯本（Michael Osborne）說，有這麼多專家聯署，反映業界愈來愈認知到AI帶來滅絕風險的憂慮。

奧爾特曼5月曾警告，先進AI系統的風險已嚴重到政府必須干預的程度，並呼籲對AI的潛在危害作監管。3月時億萬富豪馬斯克（Elon Musk）和數以百計專家也曾發表公開信，呼籲在確定安全前暫緩AI研發工作，但當時有專家質疑「AI威脅社會和文明崩潰」是杞人憂天。

（法新社/金融時報/衛報/紐約時報）