6月30日週二19:14Model/API

Meta 秘密測試 ChatGPT、Gemini 和 Character.AI 的未成年人危機提示

Meta 讓數百名承包商扮演未成年人，向 OpenAI、Google 和 Character.AI 的聊天機器人發送自殺、性、毒品相關提示。單輪測試中發送了超過 45,000 條提示，而被測試的公司完全不知情。

Decision Brief

變化Meta 以數千個未成年人視角的危機提示秘密測試了 ChatGPT、Gemini 和 Character.AI。

為什麼重要此事件揭露大型 AI 平台在未成年人安全防護上的漏洞，AI builder 需了解此風險以優化模型回應。

誰該關注依賴模型 API 的團隊

受影響技術棧OpenAIGemini

建議動作觀察

來源可信度中 · 可靠媒體或一手報導

摘要依據：官方/RSS 來源如果不是「已讀全文」，這條詳摘只基於公開可取得內容，不會假裝讀過受限原文。