英憂恐怖分子利用AI威脅國安

  人工智能(AI)技術不斷發展,業界關於其潛在問題的討論亦愈來愈多。英國政府反恐立法獨立顧問日前就提醒,AI技術若監管不力,不排除會構成國家安全威脅。專家指出,恐怖分子或會利用AI技術策劃恐襲,AI聊天機械人等工具亦可能被用於針對青少年等弱勢群體進行煽動甚至洗腦,導致極端思想蔓延。

  《衛報》引述獨立顧問霍爾的分析稱,AI技術的國安威脅日趨明顯。霍爾認為,AI技術並非「科技烏托邦」,研發者需要時刻留意其潛在問題,「許多AI研發都專注發揮該技術的潛在優勢,卻忽略了恐怖分子如何利用其策劃襲擊,針對這些不法分子或會利用AI技術所做的事,研發團隊必須建立防線。」

  霍爾指出,AI聊天機械人的語言和邏輯功能愈發完善,若被不當利用,很可能會影響青少年的心智,刺激他們接受極端主義思想,甚至指引他們如何發動恐襲。

  霍爾據此提醒,社交媒體一直是恐怖主義和極端思想的主要傳播平台,如今研發AI技術時,科企必須從社媒的問題中吸取教訓。