網紅小玉曾因使用AI換臉技術，將名人的臉換置成不雅片上網兜售牟利，國教行動聯盟認為，近期教育部積極推動AI教育政策，但卻缺乏建立倫理規範，可能讓學生暴露於偏見、歧視，且可能具潛在犯罪風險，呼籲教育部不要操之過急。
教育部近日積極推動AI教育政策，包括成立「台灣大專院校人工智慧學程聯盟」整合台大等25所大專校院組成「AI聯盟」，提供學生跨校修讀人工智慧課程，並將推動高中AI多元選修課程，在國中小積極推廣AI教育，辦理「AI菁英爭霸賽」等政策措施。
AI顯然是趨勢，不過國教盟卻憂心的指出，聯合國教科文組織在2021年11月23日發布「AI倫理建議書」，是首部由193個聯合國成員國家共同通過採納有關AI倫理的全球性協議。這部建議書明確指出AI的危險存在於「越來越多的性別及種族偏見，對隱私、尊嚴和機構組織帶來重大威脅，大規模監視造成的危險，以及執法中使用越來越多不可靠的AI技術。
不過到目前為止，還沒有一套通則標準來解決這些問題，國教盟舉例，先前小玉利用AI換臉犯罪事件、義大利政府曾因使用ChatGPT造成個資外洩與隱私疑慮、甚至南韓當地也發現大量使用AI偽造的色情影像等。
