聊天機器人的陷阱

　近幾年人工智慧科技快速發展，不僅近日的美國CES消費性電子展上，許多內建AI裝置的產品大受矚目，去年底發表的聊天機器人程式ChatGPT，更是震驚世界。

　這款聊天機器人以網路公開的大量數據與資料為基礎，經使用者訓練後，可以模仿人類語氣，與使用者流暢的對話。除了回答問題，還可撰寫文章、解答數學問題、創作詩歌劇本、編寫電腦程式、翻譯語言、文本摘要等。

　由於程式的自動對話能力優異，已有學生用於撰寫作業和報告。因此美國紐約市公立學校日前宣布，禁止師生在學校電腦安裝和使用，避免淪為作弊工具。也因機器人的對話能兼顧人類情緒，有專家擔心被用於詐騙。

　短期內，各界除了應重視防弊，長遠隱憂也不容小覷。目前聊天機器人對資訊的判別，都是基於統計的規律，不像人類有高度理解力，因此在訊息真假或價值判斷上，還存在著很大的缺陷與不足，可能提供錯誤答案。

　例如使用者的提問是關於政治傾向或價值判斷，機器人就可能提出「看似合理但不正確或荒謬的答案」，反而在無形中造成使用者的偏見。而機器人雖然可快速提供答案，卻無法幫助學生培養批判思考和解決問題的能力。

　面對人工智慧工具的快速發展與普及，學校教育者必須加強指導年輕學生，提升訊息真假的辨識能力，以及道德價值的正確選擇，以免各種社會偏見延續下去。