Amazon Nova 推出選擇性遺忘技術 rDPO，減少過度拒絕
Decision Brief
變化Amazon Nova 發布基於 rDPO 的選擇性遺忘技術，用於可自訂內容審核設定，在降低過度拒絕的同時保持模型品質。
為什麼重要使用 Amazon Nova 的開發者可以透過 rDPO 實現更精準的內容過濾，減少誤擋，同時不犧牲模型整體性能。
誰該關注依賴模型 API 的團隊
受影響技術棧未識別出特定技術棧
來源可信度高 · 官方發布 / 官方 blog / 官方 repo
Amazon Nova 在其 Customizable Content Moderation Settings (CCMS) 中引入了名為 Reverse Direct Preference Optimization (rDPO) 的新型選擇性遺忘技術。該技術旨在讓模型「忘記」特定類型的內容，同時保持對其他內容的正常處理能力。rDPO 通過偏好優化的反向應用，有效降低了模型在內容審核中的過度拒絕（over-deflection），即原本不應被攔截的內容被錯誤攔截的概率，同時不損失模型品質。 對於使用 Amazon Nova 的開發者和企業用戶，rDPO 提供了一個更靈活的內容管控方案。用戶可以根據自身場景自定義審核規則，例如在社交媒體或電商平台中，精準過濾不當內容而減少對正常內容的誤判。AWS 也提供了應用這些偏好優化技術的指引，幫助客戶在自己的實驗中復現類似效果。
摘要依據：官方/RSS 來源詳摘依據上方標註的來源範圍整理，內容以原文為準。
來源
- AWS：Machine Learning Blog
Applied ML, infra, and deployment guidance useful for AI builders on AWS.
- AWS：Machine Learning Blog