不論是時任國民黨黨主席候選人郝龍斌與北市議員柳采葳親吻的畫面，或者是颱風期間，網路瘋傳台中速食店招牌掉落的照片，不仔細看，可能都察覺不到這是AI合成的影像。
錯假影像衝擊社會信任與民主，台灣事實查核中心14日就舉辦論壇，邀集新聞學界專家與同業，甚至科學、醫學領域專家，一起探討如何在生成式AI氾濫的時代，確保新聞可以傳遞事實。
精神科醫師陳豐偉表示，「高價值的驅動物，當我遇到這樣的高價值的驅動物的時候，我要去克制我去點這樣的訊息，我就要付出很大的努力。」
醫師坦言，演算法與AI可以透過使用者對資訊的反應，不斷測試、變形，推送對個人最具吸引力的內容，人類大腦確實很難抵抗。新聞學者則強調，新聞機構的查證，在AI時代下更顯重要。
台大新聞所名譽教授張錦華指出，「現在AI都會提供，就是它的資料來源是什麼，所以我們現在推廣叫做橫向的查閱，除了查AI之外，同時你也去根據它的資料來源去查證。」
台灣事實查核中心也指出，不少社群媒體上的資訊被新聞引用，查核難度變高，速度卻得加快，而且不少國家地區都面臨分化、對立的問題，光靠後端的查核，量能不夠也未必會被信任。因此平台端的監管，同樣不可或缺。
台大資工系教授洪士灝表示，「歐洲有一些制度，就是要求這些比較大的媒體業者或是AI，AI現在也算是一種媒體，他們按照這些監管制度去，例如說提供溯源的資料。」
學者表示，溯源的技術已經存在，而社群媒體大多也來自境外，不能只監管本土，也建議逐步做國際合作，建立更完整的規範系統。