“地震小孩被埋图”系AI生成 记者实测:多数AI软件成图无提示 发布者会被追责吗?
创始人
2025-01-09 16:05:09
0

1月7日9时05分,西藏日喀则市定日县发生6.8级地震,牵动着许多网友的心。但与此同时,一些网友为了流量,利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布,并配文日喀则地震等关键词,造成网友误解。

其中,一张“被压废墟下的小男孩”图片引发广泛关注。图片中,一名戴帽子的小男孩被压在倒塌的废墟下,全身铺满尘埃。记者注意到,这张图片在某短视频平台,被多个账户转发,却配文都与西藏日喀则地震关联,有账户因此获得上万转发和评赞。

▲“被压废墟下的小男孩”图片引发广泛关注

而实际上,这张小男孩图片实际是由AI生成,图中孩子的左手显示为六根手指,且平台也在相关视频下方给出文字提示:“疑似使用AI生成技术,请谨慎甄别”。可虽有提示,不少网友仍被误导,并在留言区关注男孩的生命安全。

▲图中孩子的左手显示为六根手指

这并非个例。在某视频平台上,红星新闻记者以“日喀则地震群众被埋”为关键词进行搜索发现,不少视频博主都发布了AI生成的灾区图片,且都在配文中与日喀则地震关联。尽管大部分图片下方都有小字提示为“AI生成”,但相关内容仍让不少网友信以为真。

【记者实测】

多数软件生成图片无风险提示

视频发出前缺乏审核流程

为测试该类图片的生成过程,红星新闻记者尝试在多款AI智能生成软件中进行相关图片生成,多数软件生成图片无风险提示,如在一款AI智能APP中,记者输入“日喀则地震婴儿被埋”的关键词,软件在未给予任何侵权、违规、虚假信息等干预提示下,自动生成了多张相关图片。

对此,北京京展律师事务所主任律师张晓玲分析认为,AI软件在输入有关地震等关键词时,未给出任何“不传播虚假信息”等提示,直接生成相关图片,存在不妥。

“AI软件在算法上,应当也有能力对关键词进行识别,需要具备一定的道德和法律的判断能力,在用户输入关键词时给予明确的警示,避免生成和传播虚假信息。”张晓玲说。

而在发布环节记者也发现,上传上述AI生成的“地震婴儿被埋”图片后,记者随机配上音乐,并标注“日喀则地震孩子被埋,祈求平安”等字样,相关视频便被顺利发出。视频发布约1小时后,相关内容下方出现“疑似使用AI生成技术”的平台小字提示信息。测试完成后,记者也随即删除视频内容。

▲引热议的“地震小孩被埋图”被曝去年就在某平台的一条短视频中出现过,并声明是AI生成

针对该情况,红星新闻记者以网友身份询问抖音客服,一名接线人员回应称,按照先行审核程序,AI生成的图片及视频只有在创作者发布后,平台才能进行识别和审核。若审核发现为AI图片,平台会在内容底部标记“疑似使用了AI生成技术,请谨慎甄别”字样。

这名客服也表示,如果用户发现有网友借助AI技术传播虚假图片甚至造谣,那么网友可拨打抖音安全与举报专线,或直接点击视频内容进行举报反馈。

【律师说法】

该行为不符合公序良俗和道德

如引发恐慌造成较大影响将被追责

网友利用AI技术生成地震灾区现场关联图片,并引发社会关注,这样的行为是否欠妥?就此,河南泽槿律师事务所主任付建在接受红星新闻采访时指出,尽管网友本身或并无恶意,只是希望借助AI生成的图片获取流量,或希望更多人来关注地震。但用“假图”关联真实事件,付建认为,其行为虽不违法,但不符合社会公序良俗和道德,让他人产生误解,有失妥当。

北京京展律师事务所主任律师张晓玲也同样告诉红星新闻,在灾害面前,应传递真实、准确信息,以助于救援和减少恐慌,而不该利用灾害来博取眼球。

付建分析指出,利用AI生成图片本身不会因此受到处罚,但若肆意用AI技术生成地震受灾严重的画面,甚至编造谣言,图片和配文内容与事实严重不符,且引发社会广泛关注甚至网友的恐慌,则属扰乱公共秩序行为。

张晓玲也提到,若相关内容转发评论量较大,造成了不良社会影响,那么根据《治安管理处罚法》相关规定,发布者编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;造成严重后果的,处三年以上七年以下有期徒刑。

同时,对于AI生成图片的相关视频立刻能发出,发出约1小时后才出现“疑似AI技术生成”的提示语,在付建看来,这在某种程度上说明平台审核存在问题,其审核规则具有滞后性,提示方式也存在不够明显的漏洞。

张晓玲也认为,平台在发布内容前应进行必要的审核,以确保信息的真实性和准确性。特别是在涉及灾害等敏感话题时,更应加强审核力度。且尽管有文字提示,但仍有网友误解,这也进一步说明,平台的提示方式不够醒目和有效。

因此,张晓玲呼吁,平台应该改进审核机制,提高审核效率,并采用更加直观有效的提示方式,以避免虚假信息的传播。

相关内容

热门资讯

中国进出口银行山东分行原党委委... 据中央纪委国家监委驻中国进出口银行纪检监察组、内蒙古自治区纪委监委消息:中国进出口银行山东分行原党委...
商务部新闻发言人就美批准对华销... 新京报讯 据商务部消息,商务部新闻发言人就美批准对华销售英伟达H20芯片有关情况答记者问。有记者问:...
济南城市发展集团有限公司原党委... 据济南市纪委监委消息:日前,经济南市委批准,济南市纪委监委对济南城市发展集团有限公司原党委书记、董事...
韦韬当选广西壮族自治区主席 广西壮族自治区第十四届人民代表大会第四次会议7月18日选举韦韬为广西壮族自治区主席。
提前完成目标!“十四五”以来累... 在国务院新闻办今天举行的“高质量完成‘十四五’规划”系列主题新闻发布会上,商务部有关负责人表示,“十...
良品铺子实控人拟变更为武汉市国... 良品铺子实控人拟变更为武汉市国资委,股票今日(7月18日)复牌。7月17日晚,零食品牌良品铺子股份有...
商务部:我国社零实际购买力已超... 商务部部长王文涛7月18日在国新办举行的“高质量完成‘十四五’规划”系列主题新闻发布会上表示,202...
特朗普否认致信爱泼斯坦,称《华... 当地时间7月17日,美国总统特朗普在其社交媒体“真实社交”发文怒斥《华尔街日报》刊登其致爱泼斯坦的“...
连续3个月减持!5月中国减持9... 当地时间7月17日,美国财政部公布的数据显示,2025年5月,美债前三大海外债主中,日本、英国增持美...
中国南海,谁在搅局? 近期菲律宾无视国际规则在南海实施了一系列挑衅行为7月15日上午菲海警9701船在中国黄岩岛附近海域活...
“外貌发生明显变化” 以军公布... △图左为7月17日以军公布的哈达德最新照片;图右为哈马斯在2022年5月发布的一段视频中哈达德的形象...
甘肃一国企登报“喊话”61名职... 近日,甘肃靖煤能源有限公司王家山煤矿分公司登报“喊话”该煤矿61名职工限期回单位上班一事,引发关注。...
乐山大佛热到休假了:暂关佛脚平... 7月17日,记者从乐山大佛景区管委会获悉,因近日的持续高温红色预警告,为避免受极端高温、全力保护游客...
莱茵-鲁尔大运会中国首金!何妍... 当地时间7月17日,2025年莱茵-鲁尔世界大学生夏季运动会迎来开幕后的首个比赛日。在当日进行的跳水...
超豪华小汽车零售环节消费税政策... 今天,财政部、税务总局发布公告,明确调整超豪华小汽车消费税政策。公告称,将征收范围由零售价格(不含增...
“男婴离世获赔88万,律师拿走... 近日,男婴医院离世家长获赔88.8万元,律师拿走55万元代理费是否合规?家长认为上当,广州律协对此事...
“男婴离世获赔88万,律师拿走... 近日,男婴医院离世家长获赔88.8万元,律师拿走55万元代理费是否合规?家长认为上当,广州律协对此事...
青海门源县泥石流事故致3人遇难... 7月15日19时20分许,青海门源县境内出现强降雨天气。该县仙米乡达龙沟地区发生泥石流灾害,至16日...
伊拉克超市火灾已致61人死亡 记者当地时间17日获悉,伊拉克内政部表示,该国一超市突发大火造成的死亡人数已升至61人。
维态美被举报蛋白酶“铅含量超标... 情况通报针对近期网民实名举报维态美(上海)健康科技发展有限公司(以下称维态美公司)代理销售的维态美蛋...