借助AI(人工智能)技术,AI换脸足以以假乱真。如果相关技术被恶意使用,则可能滋生制造虚假信息、诈骗等违法活动。如何识破AI换脸把戏?这是我和团队攻关的方向之一。
精准有效的检测,是实现这一目标的关键。随着AI大模型迅猛发展,伪造技术也持续“进化”。传统检测方法,就像拿着一本固定的“犯罪图谱”去抓犯人——针对已知的伪造技术表现尚可,一旦遇到从未见过的新型生成方式,性能就急剧下降。与此同时,算力和数据门槛降低,快速批量生成伪造文本、图片甚至视频已成为可能,进一步增加了检测的难度和成本。
田天近照,AI修饰生成素描画
破解难题,还得靠AI。我们希望用AI打造“火眼金睛”,去甄别AI换脸等风险,让AI应用更安全更可控。技术落地应用并不容易。面对层出不穷的新型伪造手段,有一段时间,我们总是跟在后面疲于应对,最初设计的方法准确率也不高。