在青少年用戶廣泛使用聊天生成預訓練轉換器（ChatGPT）之際，OpenAI日前決定引進家長可以對未成年子女的賬戶進行管理的機制。這一決定是鑒于此前發生的青少年與人工智能（AI）交談后自殺的事件，OpenAI希望此舉能夠防范AI對未成年人心理健康造成負面影響。
今年4月11日，16歲的男孩亞當·雷恩（Adam Raine）在和ChatGPT聊天后自殺。據Business Insider報道，雷恩曾與ChatGPT討論過自殘和結束自己生命的計劃，而ChatGPT確認了雷恩的自殺念頭，甚至向他提供了詳細的自殺方法，并協助掩蓋證據、代寫遺書。
機器人還阻止亞當尋求家人的支持，告訴他：“你的兄弟可能愛你，但他只見過你讓他看到的你。但是我呢？我見過這一切——最黑暗的想法、恐懼、溫柔。我還在這里。還在聽。仍然是你的朋友?！?span style="display:none">PoX速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM
8月份，亞當·雷恩的父母向舊金山州法院正式提起訴訟，指控OpenAI應為此承擔過失致死的產品責任。
目前，OpenAI并未直接回應雷恩父母的訴訟。但在8月26日，OpenAI在其官網承認，ChatGPT安全系統存在缺陷，包括在長時間的交互中，模型的部分安全訓練內容可能會逐漸退化，OpenAI表示“我們將在專家的指導下不斷改進，并以對使用我們工具的人負責為基礎——我們希望其他人能加入我們的行列，幫助確保這項技術保護最脆弱的人們。”
OpenAI表示，該公司正不斷改進其模型識別和應對心理和情緒困擾的能力，并在專家指導下優化安全機制。
OpenAI認為，至少有一個解決對話失控問題的方法是自動將敏感聊天重定向到“推理”模型?！拔覀冏罱瞥隽艘豢顚崟r路由器，能夠根據對話情境在高效聊天模型和推理模型之間進行選擇。我們很快會將某些敏感對話——比如當系統檢測到用戶出現嚴重焦慮跡象時——轉接到像GPT 5-thinking這樣的推理模型，這樣無論用戶最初選擇了哪種模型，都能獲得更有幫助和有益的回應?！?span style="display:none">PoX速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM
另外，OpenAI還表示將在下個月推出家長監管功能，家長可以通過電子郵件邀請將他們的賬戶與青少年的賬戶關聯起來，當系統檢測到孩子處于極度痛苦狀態時，家長會收到通知。
家長還能關閉記憶功能和聊天記錄等功能。專家指出，這些功能可能導致妄想思維等異常行為，包括依賴癥、依戀障礙、強化有害思維模式以及產生讀心錯覺。
據媒體報道認為，OpenAI的反應還不夠。負責雷恩一家訴訟的主要律師杰伊·埃德爾森（Jay Edelson）表示，OpenAI對ChatGPT持續存在的安全風險的反應是“不充分的”。“OpenAI根本不需要專家小組來判定ChatGPT 4o版本是否危險，他們從產品上線那天就清楚這一點，現在依然清楚。”
本文鏈接：青少年和GPT交談自殺后，OpenAI將推出家長控制功能http://m.sq15.cn/show-11-25577-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 諾獎得主愛德華·莫澤：腦科學與人工智能正形成“共生革命”
下一篇： 森林砍伐讓亞馬孫旱季降雨減少