美國研究人員發現，AI改造照片、生成影片及錯誤摘要，可能令人誤記從未發生的細節。MIT媒體實驗室一項涉及200人的測試顯示，觀看AI改圖者的錯誤回憶增加，對錯誤記憶的信心也更高；其他研究亦發現，AI生成的錯誤資訊可影響人對影像及事件的記憶。
麻省理工學院媒體實驗室教授梅斯（Pattie Maes）及研究團隊讓200人觀看24張日常照片，包括婚禮、街景和賽事。短暫休息後，部分受試者重看原圖，另一些人則看到AI修改的版本。
AI修改內容包括改變人物表情、加入軍人，或增添氣候變化標誌。記憶測試發現，觀看改圖者更容易產生錯誤回憶，對錯誤記憶的信心也較高。研究者表示，AI影像和對話可能把不存在的細節帶進記憶，令人相信事件確曾發生。
其他研究亦發現，AI可能影響人對影片及事件的回憶。一項測試讓參加者觀看犯罪影片，再接受生成式AI聊天機械人提問；接受AI提問者出現錯誤記憶的比例，是對照組的3倍。另有實驗中，近半數參加者錯誤記得從未上映的電影翻拍版本，包括由韋史密夫主演的《廿二世紀殺人網絡》；AI生成影片亦曾令參加者誤信虛構政治醜聞。
喬治城大學研究人員招募331人觀看汽車撞倒行人的動畫，1至2天後閱讀AI生成的事故摘要。部分摘要正確描述交通標誌，另一些則出現錯誤。閱讀準確摘要者中，近84%正確記得標誌；讀到錯誤摘要者，正確率約45%。告知受試者摘要由AI生成，未能避免錯誤資訊影響記憶。
錯誤資訊削弱「人類把關」
記憶並非對過去的逐項存檔，人們會在回想時重組細節，也可能受到其後資訊影響。AI能快速儲存、搜尋及整理資料，但影像、對話或摘要若有錯誤，使用者可能把生成內容納入自身回憶。研究者因此關注，AI除了保存資訊，也可能參與重建人們對事件的理解。
研究人員關注的情境包括刑事案件、醫療和公共事件，這些領域都可能依賴個人對細節的回憶。警方整理執法影像、醫療人員摘要病歷，或公眾透過生成式工具回看事件時，錯誤內容均可能影響判斷。研究者指出，讓人類覆核AI輸出是常見防錯方法，但若錯誤資訊已影響覆核者記憶，人工檢查也未必有效。
研究者提醒，相關證據仍在累積，現有測試不能證明一般使用AI必然造成認知退化或永久記憶損害。記憶本來會受注意力、想像和事後資訊影響；AI帶來的風險之一，是生成內容流暢且具說服力，使用者可能不察覺便接受錯誤細節。不同實驗的材料和方法亦有差異，結果不宜直接套用到所有使用情境。
梅斯團隊亦開發AI記憶輔助工具，協助長者記錄及查找日常經歷。研究者指出，這類應用可能幫助長者維持生活自主，但系統錯誤重建事件，同樣可能混淆使用者的回憶。（編輯部）
贵公网安备52011302005168号