美擬用AI扮演人類 培訓移民官員
美國國土安全部（DHS）部長馬約卡斯7日表示，該部門正在試行用人工智能（AI）訓練移民官員的計劃，讓AI扮演「難民」與受訓人員互動。DHS早前公布一份AI應用路線圖，提及利用AI技術打擊毒品犯罪和兒童剝削、協助地方政府制定減災計劃等多個試點項目。4月底，該部門成立AI安全顧問委員會，成員包括OpenAI等科企的首席執行官。其他美國政府機構亦嘗試利用AI提高工作效率。但批評者指出，AI工具可能並不可靠，且存在歧視等問題。
【大公報訊】馬約卡斯7日告訴記者，DHS正在試行利用AI訓練移民官員的計劃。據他介紹，DHS首先將訓練AI模仿赴美尋求庇護的人，再讓負責審查申請者身份的移民官員與「AI難民」談話。馬約卡斯說，尋求庇護者通常曾遭受創傷，不願談論自己的經歷，「因此我們也讓AI表現得沉默寡言」。DHS表示，該部門計劃基於生成式AI技術開發一款互動應用程式，作為移民官員培訓的補充項目。
DHS表示，AI會了解特定國家的情況等信息以協助移民官員，但不會自行作出任何與移民有關的決定。馬約卡斯還透露，DHS已開始利用AI檢查過境貨車和客車是否存在異常，目的是打擊走私芬太尼和其他違禁品的犯罪行為。
「讓狐狸看守雞舍」
美媒表示，DHS是最先使用AI技術的美國政府機構之一。今年3月，DHS發布《2024年人工智能（AI）路線圖》，提到3個AI應用試點項目，分別為用AI協助探員搜尋芬太尼和打擊兒童剝削；部署生成式AI，提高地方政府制定減災計劃的效率；讓AI扮演可互動的「難民」，訓練移民官員。據《紐約時報》報道，DHS將為這些試點項目花費500萬美元。該部門還計劃聘請50名AI專家，負責制定保護美國關鍵基礎設施免受AI攻擊的方案，並防止AI技術被用於生成兒童性虐待材料和製造生物武器。
DHS與科企OpenAI、Anthropic和Meta合作，試用多種AI工具，還將在試點項目中使用微軟、谷歌和亞馬遜的雲端服務。4月26日，DHS宣布成立AI安全顧問委員會，共有22名成員，包括OpenAI等多家科企的首席執行官，以及一些民權組織和學術界人士。馬約卡斯說，該委員會將向交通運輸部門、能源管道和電網運營商、互聯網服務提供商等提供建議，包括如何安全使用AI，以及如何預防和應對AI攻擊。
分散式人工智能研究所（DAIR）創辦人格布魯質疑該委員會中有太多大型科企高管，如同「讓狐狸看守雞舍」。格布魯等批評者擔憂，這將導致美國政府的AI政策將大企業利益置於公眾利益之上，進而扼殺創新、延續已經存在的偏見。
CDC用AI追蹤衞生風險
美國疾病控制和預防中心（CDC）和聯邦航空管理局（FAA）等機構亦開展了AI試點項目。CDC計劃用AI追蹤潛在衞生風險，在一個試點項目中，AI正在檢查公共供冷站點，以確定哪些地區存在軍團菌傳播風險。
據《紐約時報》報道，DHS等美國政府機構的AI項目引發爭議，因為這種技術並不是百分百可靠，且被發現存在歧視問題。格布魯曾是谷歌AI倫理部門的聯合負責人，2020年因發表一篇關於AI中的大型語言模型可能放大種族主義和性別歧視等偏見的論文與谷歌發生矛盾，最終被開除。
（路透社﹑《紐約時報》﹑CNBC）
