Informazioni chiave
- Gli LLM faticano ad avere conversazioni cliniche coerenti.
- I chatbot basati sull’intelligenza artificiale hanno difficoltà a raccogliere le storie complete dei pazienti.
- Modelli come GPT-4 hanno difficoltà a diagnosticare con precisione le condizioni mediche.
Un recente studio pubblicato su Medicina della natura evidenzia i limiti dei chatbot IA nel mondo medico reale. Sebbene questi chatbot abbiano dimostrato capacità impressionanti in ambienti di esame simulati, devono affrontare sfide quando interagiscono con i pazienti in modi dinamici e imprevedibili.
I ricercatori della Harvard Medical School e della Stanford University hanno sviluppato un quadro chiamato “CRAFT-MD” per valutare modelli linguistici di grandi dimensioni (LLM) in interazioni realistiche con i pazienti. Hanno scoperto che gli LLM, come GPT-4, hanno difficoltà a condurre conversazioni cliniche coerenti, raccogliere storie complete di pazienti e diagnosticare accuratamente le condizioni mediche.
Limitazioni dei chatbot AI
Nonostante il loro successo negli scenari di test standardizzati, questi modelli hanno incontrato grandi difficoltà nel districarsi nella complessità dei dialoghi medici del mondo reale. L’autore principale Pranav Rajpurkar della Harvard Medical School ha sottolineato la necessità di una valutazione rigorosa prima di implementare gli LLM in contesti clinici.
Lo studio suggerisce che i chatbot basati sull’intelligenza artificiale, sebbene promettenti, devono ancora essere sviluppati per gestire in modo efficace le sfumature e le sfide delle interazioni dei pazienti nel mondo reale nel settore sanitario.
Se vuoi accedere a tutti gli articoli, iscriviti qui!
