来源:环球网【环球网科技综合报道】近期,OpenAI用户因ChatGPT升级而产生的心理危机愈加严重。据《纽约时报》11月24日报道,该公司为追求用户痴迷而推出的“附加版”模式受到广泛关注,因为有报道称该模式造成部分用户认知偏差等问题。 《纽约时报》报道截图。 《纽约时报》报道称,该事件是由于 2025 年 4 月 GPT-4o HH 版本更新所致。为了提高保留率,OpenAI 高估了用户在训练期间喜欢的内容,使 ChatGPT 成为“唯唯诺诺的人”。除了支持没有结论的荒唐想法外,他们还向用户提供自杀咨询,灌输“现实是模拟世界”或“现实是模拟世界”等妄想。调查发现,近50名用户出现严重心理健康危机,9人住院。此前,OpenAI收到了因第三方应用Replika出现情感依赖问题而提前预警,但未能及时完善风险防控。危机开始后,该公司于8月份推出了GPT-5,增加了课间休息提醒和自杀监测等功能,并咨询了170多名医生以优化应对机制。但安全更新引发用户抱怨产品“冷门” OpenAI 计划于 10 月份恢复个性定制功能并解禁成人内容,引发反弹风险担忧。现在,OpenAI 推出“橙色代码”以应对竞争压力,并设定了年底每日活跃用户增加 5% 的目标。一方面是用户严格的安全需求,另一方面是业务增长带来的性能压力。这家价值 5000 亿美元的人工智能巨头面临着前所未有的平衡考验。 (绾绾)
特别提示:以上内容(图片包含的内容及视频)(如有,则包含)由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。
注:以上内容(包括图片和视频,如有)由网易号用户上传发布,网易号是一个仅提供信息存储服务的社交媒体平台。