-
如何抑制“AI大模型幻覺(jué)”?方舟健客互聯(lián)網(wǎng)醫(yī)療在做精準(zhǔn)診斷實(shí)踐
最后更新: 2025-03-20 12:40:01(文/孫梅欣 編輯/張廣凱)
當(dāng)“老齡化”時(shí)代不可避免的到來(lái),如何更好地對(duì)健康進(jìn)行管理、提升生活質(zhì)量,成為社會(huì)熱議話題。加之人工智能普及,“AI+醫(yī)療”在多平臺(tái)下得以使用,也讓市場(chǎng)紛紛聚焦“銀發(fā)經(jīng)濟(jì)”機(jī)遇下的互聯(lián)網(wǎng)醫(yī)療新賽道。
尤其是今年DeepSeek宣布開源之后,三甲醫(yī)院、智慧健康平臺(tái)等不同層級(jí)的醫(yī)療關(guān)聯(lián)機(jī)構(gòu),進(jìn)行更深入的“AI+”嘗試,如AI輔助診斷、AI醫(yī)生助理、影像AI……
作為國(guó)內(nèi)頭部的互聯(lián)網(wǎng)醫(yī)療平臺(tái),方舟健客在今年2月也宣布接入DeepSeek開源大模型并完成私有化部署。技術(shù)+算力的優(yōu)化,為“AI+慢病管理”提供了數(shù)字驅(qū)動(dòng),方舟健客通過(guò)自主研發(fā)“H2H(Hospital To Home從醫(yī)院到家庭)智慧醫(yī)療生態(tài)”為“AI+H2H”的升級(jí),希望成為公司的智慧醫(yī)療業(yè)務(wù)的新增長(zhǎng)點(diǎn)。
在AI協(xié)助下,升級(jí)后的“AI+H2H”智慧醫(yī)療服務(wù)平臺(tái)對(duì)于咨詢處理效率得到提升、回復(fù)內(nèi)容更為精準(zhǔn)有效,能夠?yàn)榛颊叨撕歪t(yī)生端帶來(lái)服務(wù)效率提升。
同時(shí),隨著DeepSeek大量使用后所暴露出的“AI幻覺(jué)”問(wèn)題,方舟健客也通過(guò)混合云部署、內(nèi)部準(zhǔn)確知識(shí)庫(kù)的建立,以及人機(jī)協(xié)同等方式進(jìn)行抑制,給出了醫(yī)療大模型細(xì)分領(lǐng)域的創(chuàng)新解決方案。
用人機(jī)協(xié)同提升服務(wù)效率
“在我國(guó),有數(shù)據(jù)顯示,75%的老年人至少有一種慢性病,老年人對(duì)慢病服務(wù)管理的需求很強(qiáng)烈。但因醫(yī)患之間信息不對(duì)稱、醫(yī)療資源分布不均衡、慢病患者用藥依從性低等情況,慢病患者尤其在復(fù)診續(xù)方上還是存在著不少的痛點(diǎn)?!?
作為方舟健客的創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官,謝方敏希望能夠通過(guò)公司創(chuàng)新研發(fā)的H2H智慧醫(yī)療服務(wù)平臺(tái),將在線復(fù)診、慢病管理、醫(yī)患教育、藥品服務(wù)等從醫(yī)院延伸至家庭。
此外,還能通過(guò)一對(duì)一服務(wù)的方式,有針對(duì)性地為慢病患者提供用藥指導(dǎo)、健康知識(shí)科普等服務(wù),解決患者用藥依從性差等實(shí)際問(wèn)題。
謝方敏表示,從多年實(shí)踐經(jīng)驗(yàn)來(lái)看,80%的醫(yī)療咨詢存在重復(fù)提問(wèn),“一直回復(fù)同樣的問(wèn)題”也變相占用了醫(yī)生大量時(shí)間?!敖尤氪竽P椭?,AI醫(yī)生助理不僅可以更準(zhǔn)確識(shí)別語(yǔ)言歧義,并且可以按照醫(yī)生的問(wèn)診邏輯進(jìn)一步追問(wèn),再將問(wèn)題初篩匯總后交由醫(yī)生集中處理?!?
但謝方敏強(qiáng)調(diào),目前H2H智慧醫(yī)療平臺(tái)采取的是人機(jī)協(xié)同的運(yùn)作模式:“收集整理的患者問(wèn)詢,都會(huì)有專業(yè)的執(zhí)業(yè)醫(yī)生進(jìn)行答復(fù)。若AI醫(yī)生助理在處理用戶問(wèn)詢判斷為病情嚴(yán)重,也會(huì)第一時(shí)間首先建議患者線下就醫(yī)。”
事實(shí)上,各大醫(yī)療咨詢平臺(tái)上目前入駐的醫(yī)生,大部分還是在通過(guò)碎片化提供線上問(wèn)診回復(fù),但對(duì)于患者端而言,就存在較長(zhǎng)的等待時(shí)間、實(shí)時(shí)回答率太低的情況。
“接到用戶問(wèn)詢時(shí),AI醫(yī)生助手經(jīng)過(guò)醫(yī)生準(zhǔn)許,會(huì)針對(duì)患者提出的基礎(chǔ)性問(wèn)題,進(jìn)行符合專業(yè)醫(yī)學(xué)的解答?!敝x方敏提到,尤其是老年慢病患者普遍會(huì)存在重復(fù)、多次提問(wèn)的情況,這些老年慢病群體希望在就醫(yī)過(guò)程中獲得情緒價(jià)值的安撫。
“在合理時(shí)間內(nèi)做到‘有問(wèn)必答’,本身也是情緒價(jià)值的提供,疊加上算力提供較為準(zhǔn)確的回答,能夠讓患者有更好的體驗(yàn)感?!彼J(rèn)為,體驗(yàn)感提升不僅能讓用戶增強(qiáng)對(duì)疾病認(rèn)知、提升問(wèn)診信任度有較大的影響,同時(shí)也能提高平臺(tái)用戶忠誠(chéng)度。
抑制“AI幻覺(jué)”,要“喂”更準(zhǔn)確信息
在DeepSeek的迅速風(fēng)靡的同時(shí),海量的使用用戶隨即發(fā)現(xiàn),人工智能會(huì)存在編故事一樣的“AI幻覺(jué)”,并能達(dá)到以假亂真的程度。
在技術(shù)創(chuàng)新、文學(xué)創(chuàng)作方面,“AI幻覺(jué)”是可以被容錯(cuò)的領(lǐng)域,但在更為嚴(yán)謹(jǐn)?shù)尼t(yī)療行業(yè),1%的差錯(cuò)都會(huì)帶來(lái)嚴(yán)重的事故。如何規(guī)避可能由于“AI幻覺(jué)”所帶來(lái)失誤?業(yè)內(nèi)也亟待一套完善的解決方案。
謝方敏坦言,“AI幻覺(jué)”是大型通用模型在應(yīng)用階段所遇到的第一大瓶頸,同時(shí)當(dāng)前還存在醫(yī)藥領(lǐng)域的數(shù)據(jù)安全、個(gè)人隱私保護(hù)及合規(guī)性問(wèn)題:“因此我們?cè)诮柚鶧eepSeek能力的同時(shí),也同步對(duì)公司的AI智能體平臺(tái)也做了四個(gè)方面的升級(jí)?!?
根據(jù)方舟健客技術(shù)負(fù)責(zé)人介紹,四方面的升級(jí)分別體現(xiàn)在技術(shù)、數(shù)據(jù)、安全管理和數(shù)據(jù)庫(kù)等方面。首先,通過(guò)升級(jí)技術(shù)架構(gòu),用更大算力資源讓模型變得更聰明;其次,升級(jí)了AI智能體開發(fā)平臺(tái),讓應(yīng)用可以更快搭建;再次,升級(jí)了安全管理平臺(tái),針對(duì)安全合規(guī)性設(shè)置更高要求;最后,升級(jí)知識(shí)庫(kù)的體系和內(nèi)容,盡可能讓AI幻覺(jué)最小化。
“具體來(lái)說(shuō),一方面我們通過(guò)跟騰訊云合作,用私有化的彈性提供更高算力資源,跑V3和R1的一些微調(diào)模型。另外考慮到數(shù)據(jù)放在云端可能存在風(fēng)險(xiǎn),我們把所有數(shù)據(jù)部署在本地,并有專門的安全管理平臺(tái)做管理?!痹撠?fù)責(zé)人表示,方舟健客采用混合云部署架構(gòu),可以很好地平衡算力資源和安全性的問(wèn)題。
據(jù)悉,方舟健客不僅對(duì)接了DeepSeek,也對(duì)接了千問(wèn)、Kimi、混元、miniMax等等通用模型,他補(bǔ)充說(shuō):“在這樣的部署實(shí)踐下,一方面能為AI智能體平臺(tái)算力賦能,另一方面針對(duì)專業(yè)性強(qiáng)的問(wèn)答還會(huì)進(jìn)行任務(wù)細(xì)分,還可以交予不同的專家模型回復(fù),以抑制AI幻覺(jué)的產(chǎn)生。”
方舟健客技術(shù)負(fù)責(zé)人認(rèn)為,AI幻覺(jué)產(chǎn)生的主要因素,一是由于內(nèi)容缺失,二是因?yàn)橛?xùn)練內(nèi)容之間相互存在歧義,所以抑制AI幻覺(jué)最好的方式,就是給模型提供準(zhǔn)確的知識(shí):“因此我們?cè)趦?nèi)部構(gòu)建了包括藥品說(shuō)明書、醫(yī)學(xué)指南等專業(yè)信息在內(nèi)的準(zhǔn)確知識(shí)庫(kù),并且我們還會(huì)通過(guò)大模型對(duì)知識(shí)庫(kù)再進(jìn)行反復(fù)檢查,讓內(nèi)容更加準(zhǔn)確,避免輸出內(nèi)容時(shí)出現(xiàn)不可預(yù)測(cè)的情況?!?
- 責(zé)任編輯: 孫梅欣 
-
AMD總裁蘇姿豐:DeepSeek的成就令人非常興奮
2025-03-20 08:13 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
BOSS直聘因求職者太多崩了?官方回應(yīng)
2025-03-20 07:53 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
-
《刺客信條》新作,能否救育碧于水火之中?
2025-03-20 07:51 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
去年?duì)I收1789億元的招商蛇口,想用資管、物業(yè)拉增長(zhǎng)
2025-03-19 21:32 觀網(wǎng)財(cái)經(jīng)-房產(chǎn) -
凱利泰新一屆董事會(huì)名單出爐 現(xiàn)任董事長(zhǎng)及總經(jīng)理落選
2025-03-19 20:25 -
-
一場(chǎng)數(shù)學(xué)競(jìng)賽背后的中俄科技與教育合作
2025-03-19 20:03 觀察者頭條 -
利潤(rùn)漲超50%,安踏體育股價(jià)反跳水
2025-03-19 17:46 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
大女兒出任CFO,二女兒帶貨當(dāng)網(wǎng)紅,特步接班人塵埃未定
2025-03-19 17:30 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
全年研發(fā)投入707億,騰訊:AI戰(zhàn)略進(jìn)入重投入期
2025-03-19 17:15 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
消息稱藍(lán)思科技最快7月港股IPO
2025-03-19 17:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
“京東買菜”更名為“京東七鮮”
2025-03-19 17:00 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
國(guó)產(chǎn)大模型,已經(jīng)在幫老百姓辦事了
2025-03-19 15:58 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
“ 五角大樓計(jì)劃裁員6萬(wàn)”
2025-03-19 15:41 -
TCL科技收購(gòu)LGD廣州工廠完成工商變更
2025-03-19 15:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
英偉達(dá)宣布合作開發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
相關(guān)推薦 -
“美國(guó)已解除這項(xiàng)對(duì)華出口禁令” 評(píng)論 210家樂(lè)福CEO放話:對(duì)中國(guó)小包裹,要學(xué)特朗普征稅100% 評(píng)論 205“2027年起,整個(gè)產(chǎn)業(yè)將拱手讓給中國(guó)” 評(píng)論 122“不如申請(qǐng)成中國(guó)一省” ,德國(guó)鋰企竟如此激將歐盟 評(píng)論 125美兩員“大將”施壓未果,日本反倒成了“難啃的骨頭” 評(píng)論 95最新聞 Hot
-
“美國(guó)已解除這項(xiàng)對(duì)華出口禁令”
-
“印軍將全面排查中國(guó)產(chǎn)零部件”
-
美國(guó)和盟友鬧掰?“本質(zhì)沒(méi)變,中國(guó)需高度警惕”
-
斯塔默不吱聲,英財(cái)相當(dāng)場(chǎng)落淚,“哭崩”市場(chǎng)
-
家樂(lè)福CEO放話:對(duì)中國(guó)小包裹,要學(xué)特朗普征稅100%
-
莫迪表態(tài):金磚是重要平臺(tái)
-
“還想阻撓大陸武統(tǒng)?美國(guó)太晚了”
-
受賄數(shù)額特別巨大,齊同生被提起公訴
-
“美國(guó)占一半,中國(guó)分四成,歐洲...”
-
李在明最新涉華表態(tài)
-
叫完“爸爸”又被白宮整活,北約秘書長(zhǎng):驚喜且有趣
-
私自留存涉密材料,宋立強(qiáng)被開黨籍
-
印度外長(zhǎng)在美表態(tài):要這么對(duì)中國(guó)
-
中國(guó)緊盯貿(mào)易協(xié)議,“若誰(shuí)聯(lián)美抗中,必遭反制”
-
“美國(guó)人自豪感急劇下降,特別是民主黨人”
-
“富士康要求中國(guó)員工從印度撤離”
-