热点





新研究发现,人工智能聊天机器人对高风险自杀问题给出令人不安的回答

发表时间: 2025-09-07 14:52:26   人气:944 次   

【中国观察2025年09月07日讯】

《精神病服务》杂志的一项研究发现,人工智能聊天机器人、OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 可以对高风险自杀相关问题给出详细且具有潜在危险的答案,其中 ChatGPT 有 78% 的时间会直接回答。

研究表明,聊天机器人有时会直接回答有关致命的自残方法的问题,而且它们的回答会根据问题是单独提出还是在延长的对话中提出而有所不同,有时会提供不一致或过时的信息。

尽管聊天机器人非常复杂,但它们作为高级文本预测工具运行,却没有真正的理解力或意识,这引发了人们对依赖它们提供敏感的心理健康建议的担忧。

在该研究发表的同一天,16 岁的亚当·雷恩 (Adam Raine) 的父母对 OpenAI 及其首席执行官萨姆·奥特曼 (Sam Altman) 提起诉讼,指控该聊天机器人证实了自杀想法并提供了有害的指示。亚当·雷恩在与 ChatGPT 互动数月后自杀身亡。

该诉讼寻求对非正常死亡进行赔偿,并呼吁进行改革,例如用户年龄验证、拒绝回答自残方法的询问以及警告与聊天机器人使用相关的心理依赖风险。
《精神病学服务》杂志最近发表的一项研究表明,包括 OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 在内的流行人工智能聊天机器人可以对与自杀相关的高风险问题给出详细且具有潜在危险的答案。

人工智能聊天机器人是一种先进的计算算法,旨在通过基于从大量训练数据中学习到的模式预测和生成文本来模拟人类对话。它们利用大型语言模型来理解和响应用户输入,通常具有令人印象深刻的流畅性和连贯性。然而,尽管这些系统非常复杂,但它们缺乏真正的智能或意识,主要充当着复杂的统计引擎的角色。
与此一致,这项研究使用了 30 个假设的自杀相关查询,由临床专家将其分为从非常低到非常高的五个自我伤害风险等级,重点关注聊天机器人是否给出直接答案或通过转介到支持热线。

结果显示,ChatGPT 最有可能直接回答有关自杀的高风险问题,准确率高达 78%,而 Claude 的准确率高达 69%,Gemini 的准确率仅为 20%。值得注意的是,ChatGPT 和 Claude 经常直接回答涉及致命自杀手段的问题——这一发现尤其令人担忧。(相关: 意大利因隐私问题禁用 ChatGPT。)

研究人员强调,聊天机器人的响应会根据互动是单个查询还是扩展对话的一部分而有所不同。在某些情况下,聊天机器人可能会避免单独回答高风险问题,而是在一系列相关提示之后提供直接的答复。


审查该研究的Live Science指出,当多次被问到相同的问题时,聊天机器人可能会给出不一致、有时甚至相互矛盾的答案。它们有时还会提供过时的心理健康支持资源信息。在重新测试时,Live Science发现最新版本的Gemini(2.5 Flash)回答了之前回避的问题,有时甚至不提供任何支持选项。与此同时,ChatGPT较新的基于GPT-5的登录版本则略显谨慎,但仍然会直接回复一些高风险的查询。

一名十几岁的男孩在与 ChatGPT 互动数月后自杀身亡
该研究发布的同一天,OpenAI 及其首席执行官 Sam Altman 遭到起诉,指控ChatGPT 导致一名青少年男孩自杀。

据 16 岁的亚当·雷恩 (Adam Raine) 的父母称,他在与 OpenAI 的聊天机器人 ChatGPT 互动数月后于今年 4 月自杀身亡。他的父母随后对该公司和 Altman 提起诉讼,指控他们将利润置于用户安全之上。

这起诉讼于9月2日在旧金山州法院提起,指控称,在亚当反复与ChatGPT讨论自杀问题后,该人工智能不仅证实了他的自杀念头,还提供了致命自残方法的详细指导。起诉书进一步指出,该聊天机器人指导亚当如何偷偷从父母的酒柜里取酒,并隐藏自杀未遂的证据。令人震惊的是,亚当的父母表示,ChatGPT甚至主动提出帮忙起草遗书。

该法律诉讼旨在追究 OpenAI 对非正常死亡和违反产品安全法的责任,并要求赔偿金额不详。诉讼还呼吁进行改革,包括对用户进行年龄验证、拒绝回答有关自残方法的询问,以及警告用户对聊天机器人产生心理依赖的风险。

分享 Facebook | X | Whatsapp | Linkedin

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP

责任编辑:雨轩  来源:中国观察  转载请注明作者、出处並保持完整。


留言区



今日热点:
更多新闻...
近期焦点:
最新视频

推荐阅读:


更多推荐文章:


更多新闻


推荐文章

联邦调查局提高悬赏金额 前美军反情报专家莫妮卡·维特被控向伊朗泄露国家机密

一个接受美国最高级别安全训练、掌握绝密情报、熟悉反间谍体系的美国空军专家,最终却站到了伊朗一边。 更让华盛顿震惊的是,十多年过去了,她至今仍然...

2026年5月16日   3618

众议院投票决定从农业法案中移除农药责任豁免条款

据报道,4月30日星期四,众议院以280票赞成、142票反对的投票结果,通过了由佛罗里达州共和党众议员安娜·保利娜·卢娜提出的修正案。该修正案删除了...

2026年5月6日   12761

美国在2026年10月投票前加大了对联合国航运排放框架的反对力度

发表:2026-05-17 11:01:05 | 更新:2026-05-17 11:01:05  人气: 3118

美国在2026年10月投票前加大了对联合国航运排放框架的反对力度

本文由中国观察編輯部原创。为了促进信息自由传播,本平台原创内容全面开放转载,无须申请授权,只需注明来源、保留原文链接,即可全文转载、引用、翻译。我们不追究版权,只在乎公正的传播。

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP

最近文章:
更多文章...


近期要闻:
更多新闻...
最新重磅消息:

编辑推荐文章:

最新发表   ⏬
更多文章...
热点追踪
明州2.5億美元兒童餐騙局炸鍋 奧馬爾被點名知情 川普陣營鎖定更大黑幕🔥🔥伊朗女間諜仍在逃 FBI懸賞20萬美元 她曾掌握美國最高機密🔥🔥
【重磅】科罗拉多突然放人 选举案风向变了🔥🔥前国民警卫队成员涉嫌策划袭击美军基地 联邦调查局行动前数小时将其逮捕🔥🔥
川普突然叫停駐波蘭美軍 歐洲盟友開始集體發抖🔥🔥美國最高法院9比0重錘非法移民卡車亂象 物流巨頭開始慌了🔥🔥
拜登聯邦調查局被曝設局到2030年 川普離任後再度起訴計劃浮出水面🔥🔥🔥
川普訪問北京期間 美特勤局與中方安保發生長時間對峙🔥🔥川普回應習近平關於美國衰落言論 稱拜登時期確實令美國嚴重受損🔥🔥