OpenAI与Meta近日宣布，将对旗下AI聊天机器人作出调整，以提升其在青少年用户心理危机情境下的应对能力。OpenAI表示，将推出新的家长控制功能，使家长能够绑定与管理子女账户，并选择禁用特定功能，或在系统检测到未成年人出现急性心理困扰时收到通知。这一系列措施计划在今年秋季上线。无论用户年龄，OpenAI还将把涉及极端情绪的对话自动转接至更强大的AI模型，以增强处理能力。
Meta作为Instagram、Facebook和WhatsApp的母公司则已在对话话题上设置限制，阻止其聊天机器人与青少年讨论自残、自杀、饮食障碍以及不当恋爱行为，同时会将青少年用户引导至专业援助资源。Meta当前已对青少年账户提供家长控制工具。
上述举措在一宗16岁美国青少年家长起诉OpenAI案曝光后一周公布。原告方认为ChatGPT疑似参与教唆未成年人自杀。对此，家属律师认为OpenAI的举措“不够具体”，更像是一种危机公关手段。与此同时，有最新医学期刊研究显示，市场上多款AI聊天机器人在应对自杀相关问题时表现不一，主导研究的RAND公司专家强调，仅有公司自律和增量改进远不足以充分保护青少年，呼吁建立独立安全标准和临床测试以应对高风险场景。