，一则“日本首相岸田文雄”出镜的视频在YouTube等社交平台上传播甚广。在该视频中，“岸田文雄”发言内容相当低俗。该视频下方还有“突发新闻”字样，右上角有日本电视台的台标与直播等字样。
值得注意的是，在该视频中，“岸田文雄”表情呆滞，说话时脸部也只有鼻子以下的部分有动作，上述奇怪的细节不禁令人怀疑该视频的真伪。
在该视频在社交平台上引发多方关注后，制作该视频的不具名男子在社交平台X（原推特）上承认讲不雅段子的“岸田文雄”是自己通过生成式AI合成的，并对此道歉。
该男子称，自己让AI软件先学习了网上公开的岸田讲话的声音，然后把自己读“黄段子”的声音转换成与岸田高度相似的声音，并在网上检索日本电视台新闻节目的影像，使用配合说话声音加工嘴型的AI完成视频制作。
该男子称，AI软件学习声音仅用了约2小时，制作视频本身则只用了约1小时。
在生成式AI飞速发展的当下，“岸田文雄”讲黄段子只是一个个例，无数通过AI生成的虚假信息，正以文字、音频，甚至是图片与视频的形式在全球的网络上传播，传统机构媒体的可靠度已然受到生成式AI带来的虚假信息“海啸”威胁，大众已越来越难辨析信息的真与假。
“谁都可以制作假新闻”
在于11月15日开幕的2023年第二届全球媒体大会（Global Media Congress）的会场中，阿联酋通讯社（WAM）的展台上有一处独特的生成式AI体验设施。在试用过程中，澎湃新闻（www.thepaper.cn）记者先是选定自己的性别，上传自己的自拍照片，录制自己的声音，随后输入自己想要说的任意文字内容，并勾选自己想要的语种，如英语、阿拉伯语、汉语等。在稍等片刻后，一段由澎湃新闻记者自己出镜讲述内容的视频便展示在了一旁的大屏幕上。
