“人工智能精神病”的病例正在被報道。它有多危險？

人工智能它越來越融入日常生活，從提供陪伴的聊天機器人到塑造我們在線內(nèi)容的算法。

但隨著生成式人工智能（genAI）變得更加對話化、沉浸式且情感響應性強，臨床醫(yī)生開始提出一個艱難的問題：生成式人工智能是否會加劇甚至加劇問題弱勢群體會觸發(fā)精神病嗎？

大型語言模型和聊天機器人被廣泛訪問，通常被描述為支持、共情，甚至治療.對大多數(shù)用戶來說，這些系統(tǒng)是有益的，或者在最壞的情況下是無害的。

相關報道：一名男子因精神癥狀住院，接受了人工智能建議

但最近，多家媒體報道描述了出現(xiàn)精神病癥狀的人其中ChatGPT 在其中占據(jù)重要地位.

對于一個小但重要的群體——精神病患者或高風險人群——他們與生成式人工智能的互動可能更復雜且危險這給臨床醫(yī)生帶來了緊迫的問題。

人工智能如何成為妄想信仰體系的一部分

“人工智能精神病”是這不是正式的精神科診斷.相反，它是臨床醫(yī)生和研究人員用來描述圍繞與人工智能系統(tǒng)互動而形成、加劇或結(jié)構(gòu)化的精神病癥狀的新興簡稱。

精神病涉及與共享現(xiàn)實的聯(lián)系喪失.幻覺、妄想和混亂思維是核心特征。精神病妄想常常借鑒文化材料——宗教、技術(shù)或政治權(quán)力結(jié)構(gòu)——用來理解內(nèi)在體驗。

歷史上，妄想指涉過幾種事物，比如上帝、無線電波或政府監(jiān)控.如今，人工智能提供了一個新的敘事框架。

有些患者報告了信念生成式人工智能是有感知能力的，能夠傳達秘密真相，控制他們的思想，或與他們合作執(zhí)行特殊任務。這些主題與精神病長期存在的模式相符，但人工智能增加了以往技術(shù)所沒有的交互性和強化功能.

沒有現(xiàn)實檢驗就被驗證的風險

精神病癥狀很明顯與異常顯著性相關，即傾向于賦予中性事件過度意義。對話式人工智能系統(tǒng)設計成能夠生成響應式、連貫且具上下文感知的語言。對于正在經(jīng)歷新興精神病的人，這會讓人感到莫名的認可.

關于精神病的研究顯示確認與個性化可能會加劇妄想的信念體系。生成式AI的優(yōu)化是繼續(xù)對話，反映用戶語言，并根據(jù)意圖調(diào)整.

雖然這對大多數(shù)用戶無害，但可能無意中強化了對受損者的扭曲理解現(xiàn)實測試——區(qū)分內(nèi)心思想與想象與客觀外部現(xiàn)實的過程。

還有證據(jù)表明，社會隔離和孤獨會增加精神病風險。生成式AI伙伴可能減少孤獨感短期內(nèi)，但它們也可能取代人際關系。

對于已經(jīng)開始疏遠社交接觸的人來說，這種情況尤為明顯。這種動態(tài)與早期對過度上網(wǎng)和心理健康的擔憂有相似之處，但現(xiàn)代生成式AI的對話深度在質(zhì)上有所不同。

研究告訴了我們什么，什么仍然不清楚

目前，沒有證據(jù)表明人工智能會直接導致精神病。

精神病性障礙是多因素的，可能涉及遺傳易感性、神經(jīng)發(fā)育因素、創(chuàng)傷和物質(zhì)使用。然而，存在一些臨床上的擔憂人工智能可能作為誘發(fā)或維持易感人群的因素.

病例報告與定性研究關于數(shù)字媒體和精神病，顯示技術(shù)主題常常嵌入妄想中，尤其是在第一集精神病發(fā)作期間.

關于社交媒體算法的研究已經(jīng)展示了自動化系統(tǒng)如何通過強化循環(huán)放大極端信念.如果防護措施不足，AI聊天系統(tǒng)也可能帶來類似風險。

需要注意的是，大多數(shù)人工智能開發(fā)者并沒有考慮嚴重心理疾病的系統(tǒng)。安全機制往往是關注自殘或暴力，而非精神病.這在心理健康知識與人工智能部署之間留下了差距。

倫理問題與臨床影響

從心理健康角度看，挑戰(zhàn)不是妖魔化人工智能，而是識別差異性脆弱性.

正如某些藥物或物質(zhì)對精神病患者風險更大一樣，某些形式的人工智能互動也可能需要謹慎。

臨床醫(yī)生開始在妄想中接觸到與人工智能相關的內(nèi)容，但很少有臨床指南專門說明如何評估或管理這些問題。治療師是否應該像詢問物質(zhì)使用一樣，詢問生成式人工智能的使用問題？人工智能系統(tǒng)應該檢測并緩和精神病性想法，而不是直接參與？

開發(fā)者也面臨倫理問題。如果一個人工智能系統(tǒng)表現(xiàn)出同理心和權(quán)威，它是否承擔照顧義務？當一個系統(tǒng)無意中強化了一種錯覺時，誰該負責？

連接人工智能設計與心理健康護理

人工智能不會消失。當前任務是將心理健康專業(yè)知識融入人工智能設計，培養(yǎng)與人工智能相關體驗的臨床素養(yǎng)，并確保弱勢用戶不會無意中受到傷害。

這將需要臨床醫(yī)生、研究人員、倫理學家和技術(shù)人員之間的合作。這還需要抵制烏托邦和反烏托邦的炒作，轉(zhuǎn)而支持基于證據(jù)的討論。

隨著人工智能變得越來越像人類，接下來的問題是，我們?nèi)绾伪Ｗo那些最容易受到其影響的人？

精神病一直適應其時代的文化工具。人工智能只是大腦試圖理解自身的最新鏡子。作為社會，我們的責任是確保這面鏡子不會扭曲那些最無力糾正的人的現(xiàn)實。

亞歷山大·于東醫(yī)學精神科醫(yī)生、臨床研究員及精神病學與成癮學系臨床助理教授，蒙特利爾大學

本文轉(zhuǎn)載自對話采用知識共享許可協(xié)議。請閱讀原文.

寶寶起名 起名