用AI写文案、做图、剪视频,不少创业者都在开发这样的应用。但有一个关键问题尚未被充分理解:算力模型的接口是否可以随意调取?
近日,上海市首例利用AI伪造签名、盗用大模型算力的案件一审宣判,为AI创业者们明确了界限。
今年年初,徐汇区一家名为“演语科技”的AI公司发现旗下两款视频和图文设计应用突然在短时间内涌入了400多万个由同一IP地址注册的用户。公司公共事务总监吕绍文表示,不法分子通过这种方式获取新用户赠送的积分,并将其出售。公司随即增加了电子签名防伪验证程序,但这道防护墙不久后也被攻破。公司随后报案,警方追踪到了这个积分池的创建者宗某。宗某供述称,他使用AI批量生成电子签名,起初并不知道这是公司的防范措施。
宗某最初是该平台的付费用户,后来他自己搭建了一个程序,批量注册账号以获取新用户免费积分。嗅到商机后,他建立了一个中转网站,对外收取费用,让用户在他的网站上提问并生成图片和视频。但实际上,他的网站并没有自己的算力模型,用户输入指令后调用的算力接口都是来自徐汇那家AI公司,生成的内容也是由该公司提供。宗某认为这些算力接口是公开的,可以自由使用,但他承认这种行为会造成平台算力成本损失。