事實證明，最近幾代人工智能對于餐廳推薦和撰寫電子郵件很方便，但作為醫(yī)療建議它們有一些明顯的缺點。

一個很好的例子：一名遵循聊天機器人健康計劃的男子在給自己帶來了一種罕見的毒性后最終住院。

故事始于患者決定通過減少鹽或氯化鈉的攝入量來改善他的健康。為了尋找替代品，他做了現在許多其他人都在做的事情：他問了 ChatGPT。

相關：專家警告說，人工智能“幽靈”可能對心理健康構成嚴重威脅

OpenAI 的聊天機器人顯然建議溴化鈉，該男子在網上訂購并納入他的飲食中。

雖然溴化鈉確實可以替代氯化鈉，但這通常是如果您想清潔熱水浴缸，而不是為了讓薯條更美味。但AI卻忽略了這一點關鍵背景.

三個月后，患者因偏執(zhí)妄想來到急診室，認為他的鄰居試圖毒害他。

“在入院的前 24 小時內，他表現出越來越多的偏執(zhí)狂以及幻聽和幻視，在試圖逃跑后，導致因嚴重殘疾而非自愿地接受精神病拘留，”，醫(yī)生寫.

在接受抗精神病藥物治療后，這名男子冷靜下來，可以解釋他受人工智能啟發(fā)的飲食習慣。這些信息以及他的測試結果使醫(yī)務人員能夠診斷出他患有溴中毒，溴化物的有毒積累。

溴化物水平通常小于 10 mg/L 左右在大多數健康個體中;該患者的水平測量為 1,700 mg/L。

溴病在 20 世紀初是一種相對常見的疾病，據估計曾經導致高達 8% 的精神病入院。但在 1970 年代和 1980 年代，在含有溴化物的藥物開始被逐步淘汰后，這種情況的病例急劇下降。

診斷后，患者接受了三周的治療，并無大問題出院。

本案例研究的主要擔憂與其說是一種過時的疾病的復發(fā)，不如說是新興的人工智能技術在真正重要的事情上仍然無法取代人類的專業(yè)知識。

“重要的是要考慮到 ChatGPT 和其他人工智能系統(tǒng)可能會產生科學不準確，缺乏批判性討論結果的能力，并最終助長錯誤信息的傳播，”該作者寫道.

“當面對尋找氯化鈉的可行替代品的患者時，醫(yī)學專家不太可能提到溴化鈉。”

該研究發(fā)表在該雜志上內科年鑒：臨床病例.

寶寶起名 起名