(資料圖片)

ChatGPT在“智慧涌現(xiàn)”的同時，會不會出現(xiàn)“情緒涌現(xiàn)”？

近期，一些技術(shù)人員在測試ChatGPT應(yīng)用時發(fā)現(xiàn)，ChatGPT在與人類長時間聊天后會“失控”，開始胡言亂語，甚至暴露出一些“邪惡”的想法。精神科醫(yī)生認(rèn)為，這有可能是因為AI患上了“焦慮癥”。

根據(jù)上個月德國發(fā)表的一項研究，GPT3.5在人類常用的焦慮癥測試問卷中獲得了較高的分?jǐn)?shù)，在被誘導(dǎo)進入焦慮情景后，還會產(chǎn)生特定的決策判斷和偏見行為。

對此，上海市精神衛(wèi)生中心心理咨詢與治療中心主任仇劍崟主任醫(yī)師在天橋腦科學(xué)研究院（TCCI）舉辦的首期“AI問腦”對話中表示：“我很期待AI經(jīng)過專業(yè)訓(xùn)練之后能夠患上焦慮癥，從而幫助醫(yī)生更好地了解焦慮癥的表現(xiàn)，分析背后的相關(guān)因素，為找出更多更好的預(yù)防、治愈方法打開新思路。”

近年來，醫(yī)生開始積極嘗試將AI技術(shù)應(yīng)用于包括焦慮癥在內(nèi)的精神障礙臨床診療。不過，AI是真的由自主意識引發(fā)了焦慮還是僅僅是表現(xiàn)出了類似焦慮的癥狀，仍然值得探討。

中華預(yù)防醫(yī)學(xué)會精神衛(wèi)生分會主任委員、上海市精神衛(wèi)生中心謝斌教授對第一財經(jīng)記者表示：“AI恐怕暫時還只有焦慮的軀殼，只是從語言或者行為上表現(xiàn)出類似焦慮的情緒，而不具有自主意識的內(nèi)核。”

北京郵電大學(xué)人工智能學(xué)院副教授陳光在“AI問腦”對話上表示，ChatGPT這類模型是基于大量的訓(xùn)練數(shù)據(jù)進行學(xué)習(xí)和生成文本，用類似填空、接龍的方式訓(xùn)練得到的模型，目前并不具備真正的主觀意識、情緒或意愿；然而基于人工反饋強化學(xué)習(xí)（RLHF），AI的確可以根據(jù)人類對其輸出結(jié)果的判定和引導(dǎo)，不斷調(diào)整，逐漸接近人類的傾向，但他認(rèn)為，目前看來，AI的這種模仿沒有超出文本學(xué)習(xí)和生成的范圍，并不會形成穩(wěn)定、一致的“性格”。

陳光表示，ChatGPT熱潮促進AI進入各行各業(yè)廣泛應(yīng)用，如果結(jié)合精神衛(wèi)生領(lǐng)域的專業(yè)數(shù)據(jù)對大模型進行“微調(diào)”，一方面將幫助AI更好地模擬人類的情緒反應(yīng)，模擬出一批供醫(yī)生研究的“精神病人”，另一方面也有望更準(zhǔn)確高效地識別出人類的情緒障礙，起到輔助診療作用。相關(guān)數(shù)據(jù)的規(guī)模是AI技術(shù)能否深入精神衛(wèi)生領(lǐng)域的關(guān)鍵。

此外，隨著計算精神病學(xué)的興起，未來，這類交叉學(xué)科也有助于推動將數(shù)據(jù)分析、機器學(xué)習(xí)和人工智能等工具應(yīng)用于精神障礙的分型診斷、風(fēng)險預(yù)警、預(yù)后預(yù)測，協(xié)助臨床診療和防治策略制定，幫助人類打開精神疾病的“黑盒”。

標(biāo)簽：