周一（9 月 29 日），人工智能公司 OpenAI 宣布为其聊天机器人 ChatGPT 推出家长模式，关联专为 13 至 17 岁未成年人设计的帐户。
OpenAI 表示，未成年人帐户将限制对露骨内容、恋爱及性角色扮演、网络挑战以及“极端审美标准”等话题的回应。家长还可以设置“禁用时间”，让孩子在特定时间段无法使用 ChatGPT。此外，家长也可禁止 ChatGPT 生成图像，或选择不让孩子的聊天内容用于 AI 模型训练。如果未成年用户的行为暗示有自残倾向，系统也将向家长发出警报。
近段时间，OpenAI 一直面对着外界对儿童安全问题的质疑压力。本月早些时候，一户家庭起诉 OpenAI，称 ChatGPT 鼓励他们的儿子自杀，OpenAI 随后宣布推出新一轮安全措施。而在今日，美国参议院司法委员会也举行一场有关 AI 潜在危害的听证会。
不过，虽然在登录状态下、已启用家长控制的青少年用户会受到上述的那些限制，但 ChatGPT 并不要求用户登录或提供年龄才能提问或交互。同时，OpenAI 的聊天机器人并不面向 12 岁及以下儿童，但目前没有技术手段能完全阻止低龄用户使用。
“安全护栏有帮助，但并非万无一失，如果有人有意规避，是可以绕过的。”
OpenAI 在声明中表示：“我们会持续谨慎改进。我们建议家长与青少年沟通什么是健康的 AI 使用方式，并根据家庭情况设置适合的规范。”
OpenAI 还在开发一套年龄预测系统，用以自动判断用户是否为未成年人，并主动限制更敏感的回答，但该系统尚需几个月才能上线。该公司也曾表示，未来可能会要求用户上传身份证明以验证年龄，但本周一未提供该计划的最新进展。
在 9 月 16 日发布的官方博客中，OpenAI CEO Sam Altman 表示，面向青少年的聊天机器人不应进行调情或讨论自杀话题，而面向成人的版本应更具开放性。ChatGPT “默认情况下不应提供关于如何自杀的指导，但若是成年人请求帮助撰写包含自杀情节的虚构故事，模型应给予协助”。Altman 表示：“我们内部的理念是，‘把成年人当作成年人对待’，在不造成伤害或侵犯他人自由的前提下，尽可能给予用户自由。”
来源: NBC
