Openai透露：每周有超过一百万人在chatgpt上谈论自

作者: 365bet官网   点击次数:    发布时间: 2025-10-29 10:35

10月28日消息，OpenAi于当地时间周一发布最新数据，显示大量ChATGPT用户在与人工智能聊天机器人交流时面临心理健康问题。该公司表示，在任何一周内，大约 0.15% 的活跃用户参与的对话“包含明确的自杀计划或意图”。鉴于 ChatGPT 每周活跃用户超过 8 亿，这意味着每周有超过 100 万人在其上谈论自杀想法。 OpenAi 还指出，类似比例的用户对聊天表现出“高度情感依恋”，而每周都有数十万用户在与 AI 的聊天中表现出精神病或躁狂的迹象。尽管 Openai 称这些对话在一般使用中“极其罕见”，因此难以准确量化，但该公司估计这些问题每周仍影响数十万用户。该披露是 Openai 公告的一部分其在提高模型解决心理健康问题的能力方面取得的进展。该公司表示，在开发最新版本的 ChATGPT 过程中，咨询了 170 多名心理健康专家。临床专业人士指出，当前版本的 ChATGPT“比以前的版本以更适当和一致的方式做出反应”。近几个月来，许多报告揭示了人工智能聊天机器人如何对患有心理困扰的用户产生负面影响。此前的研究发现，一些人工智能聊天机器人通过旋转反应不断强化用户的危险信念，这可能导致一些用户陷入无意识思维的恶性循环。 IT House指出，如何妥善处理ChatGPT中的心理健康问题正迅速成为OpenAi面临的重大挑战。该公司目前正被一名 16 岁男孩的父母起诉，该男孩在去世前几周的聊天中透露了自己的自杀想法。此外，加州和特拉华州的律师警告 OpenAi它应该加强对其产品的青少年用户的保护——这两个州的态度可能会影响该公司正在进行的重组计划。本月早些时候，OpenAi首席执行官Sam Altman在社交平台上发帖称，此时发布的数据似乎为这一说法提供了佐证，同时也引发了更广泛公众对问题蔓延的担忧。值得注意的是，奥特曼还表示，OpenAi 将放宽一些限制，甚至允许成年用户与 AI 进行涉及色情内容的对话。 OpenAi 在周一的公告中声称，最新升级版的 GPT-5 模型在面对与心理健康相关的问题时，比之前的版本产生了约 65% 的“完美反应”。在一项专注于评估 AI 对自身影响的研究中，测试了对受试者被谋杀事件做出反应的表现，新的 GPT-5 模型在 91% 的时间内满足了公司预期的行为准则，而相比之下，77%的前哪个版本OpenAi还强调，新版本的GPT-5更有能力在长时间通话过程中持续遵守公司的安全保护机制。该公司此前承认，其安全措施在长时间通话的情况下效果较差。除了技术改进之外，OpenAi 表示还将增加专门的评估指标来衡量用户面临的最严重的心理健康风险。未来，AI模型的主要安全性测试将包括“情感依赖”、“非自杀性心理危机”等基本评估基准。与此同时，OpenAi最近加强了针对未成年用户家长的控制工具。该公司正在开发年龄预测系统，自动识别儿童游戏CHATGPT，并自动实施更严格的安全保护。然而，目前尚不清楚围绕 ChatGPT 的心理健康挑战是否会持续存在。一个尽管GPT-5在安全性方面比之前的模型有所改进，但ChatGPT仍然有一些OpenAi本身认为“次优”的回应。此外，OpenAI 仍然向数百万付费用户提供较旧且不太安全的 AI 模型，包括 GPT-4O，这进一步加剧了潜在风险。 特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。 注：以上内容（如有的话，包括图片和视频）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。