隨著科技進步，生成式AI逐漸成為民眾日常生活中的「借問站」，許多人在身體出現不適時，第一時間選擇向AI尋求答案，而非直接就醫。然而，醫師與專家警告，這種做法存在相當風險，AI提供的診斷資訊錯誤率仍高，且假專家影片更如病毒般在網路上傳播，民眾應提高警覺，避免掉入假訊息陷阱。
根據《衛報》報導，Google的AI系統在回答部分健康問題時，未充分納入年齡、性別、族群或國籍等差異因素，可能導致使用者誤判自身健康狀況。因此，Google已針對部分健康相關查詢，下架原本會顯示的AI摘要內容。蔡明憲建議，民眾可以請AI提供資料出處，或要求說明該段話的證據來源來自哪一個網站或資料庫，再點進去確認該資料庫是否確實存在，若存在則可信度較高。他強調，對於醫學建議，可能還是需要有專家意見會比較正確。除了確認資料出處是否有醫學根據外，撰寫文章的機構或專家是否具有公信力，也是研判可信度的重要依據。
然而，不只文字內容需要確認，網路上的假專家影片更像病毒般傳播。例如爆紅的YouTube頻道「陳志明醫師」，已經被衛福部確認是造假。國家資通安全研究院因此分析了20個YouTube頻道，發現有1334支AI假專家影片，三大核心題目都鎖定中高齡族群關心的長壽與健康、財富與福利、旅遊與生活。
國家資通安全研究院數位資訊分析組研究員戴毓辰指出，這些AI假專家會使用「再不注意就來不及了」或「很多人忽略這才是中風」等較可怕的用詞，讓觀眾感到恐懼。戴毓辰表示，這些影片的共同特徵是用醫生的身分來建立信任，用健康的恐懼來製造壓力，最後再給觀眾一個很簡單的祕訣。由於AI工具的製作門檻已經降到非常低，民眾需要學會分辨內容真假。若發現影片中人物五官比例不協調、眨眼不自然、動作不斷重複，或語音與字幕不一致、感覺是重製，都可能是破綻。民眾遇到聳動標題時務必查證來源與醫師真偽，避免掉進假訊息陷阱。
