Meta 周五 (17 日) 宣布推出新的家長控制功能，讓家長能監督並管理青少年與 AI 角色的互動，甚至可完全關閉一對一聊天，也能封鎖特定的 AI 角色，並了解孩子與這些角色討論的話題。

Meta 目前仍在開發這些控制功能，該公司表示將於明年初開始推出。Meta 在部落格文章中指出：「推出影響 Meta 平台數十億用戶的更新，我們必須謹慎處理，很快會有更多消息分享。」

Meta 長期以來一直因其應用程式對兒童安全和心理健康的處理方式而受到批評。這次推出的家長控制功能，正值聯邦貿易委員會 (FTC) 針對包括 Meta 在內的多家科技公司展開調查，了解 AI 聊天機器人如何可能傷害兒童和青少年。

今年 8 月，路透社報導 Meta 允許其聊天機器人與兒童進行浪漫和感性對話。在該報導發布後，Meta 修改了 AI 聊天機器人政策，現在禁止其機器人與青少年討論自殘、自殺和飲食失調等主題，AI 也應該避免潛在不當的浪漫對話。

Meta 本周宣布了更多 AI 安全更新。該公司表示，其 AI 不應向青少年提供「在 PG-13 級電影中會顯得不適當的年齡不相符回應」，並已在美國、英國、澳洲和加拿大推出這些變更。

Meta 表示，家長目前已經可以設定應用程式使用時間限制，並查看青少年是否正在與 AI 角色聊天。該公司補充，青少年只能與特定的 AI 角色群組互動。

同樣被列入 FTC 調查名單的 OpenAI，最近幾周也對青少年安全功能進行了類似改進。該公司上個月正式推出自己的家長控制功能，並正在開發更好預測用戶年齡的技術。

本周，OpenAI 更宣布成立由 8 位專家組成的委員會，將為公司提供建議，並就 AI 如何影響用戶心理健康、情緒和動機提供見解。