OpenAI安全專家辭職 批高層忽視機器對人類威脅
香港文匯報訊 研發人工智能(AI)聊天機械人ChatGPT的美國科企OpenAI近期接連出現人事變動,繼AI安全研究團隊「長遠風險評估工作組」首席科學家蘇茨克維辭職後,擔任團隊主管的安全專家萊克上周五(5月17日)也宣布辭職。萊克指出,目前OpenAI的高層方針注重新穎、罔顧安全,忽視製造出比人類更聰明的機器可能帶來的威脅。
萊克在社媒X上表示,他加入OpenAI的初衷就是研究AI,但與公司高層針對優先核心價值的意見相左已久,目前公司方針將安全置於新穎之後,已令他無法苟同,因而求去。
萊克指出,有關次世代AI模型研發,應將安全和社會分析置於第一位,因創造出比人類更聰明的機器,本身就是非常危險的事情。他強調OpenAI有義務代表全人類擔起此責任,成為一個「安全第一」的通用人工智能(AGI)公司。
OpenAI行政總裁奧爾特曼回應表示,非常感謝萊克過去對公司的貢獻,對其離職感到非常不捨,且其所言甚是,OpenAI還有更多需要做也一定會做到的事情,未來將撰文詳細說明有關AI安全的研究。據悉OpenAI已證實,在萊克離職後,其領導的AI安全研究團隊已解散。