OpenAI周一推出了视频生成工具Sora。但在进一步测试之前,该公司选择不向大多数用户发布一项关键功能。该功能以上传的照片或真人镜头为参照物生成视频。OpenAI表示,它将让"一部分"Sora用户使用该功能,但在有机会对其"安全方法"进行微调之前,它不会广泛推出该功能。
`9r{z;UQ
t,9+G<)>H "使用上传的真人照片或视频作为'种子'生成视频的功能是潜在滥用的一个载体,我们正在采取一种特别渐进的方法来学习早期的使用模式,"OpenAI在博文中写道。"艺术家们的早期反馈表明,这是一个他们非常重视的强大创意工具,但考虑到滥用的可能性,我们最初并没有向所有用户开放。"
*5PQ>d
G YcA. Bn|as 生成视频是一个强大的工具,也是一个有争议的工具。当然,深度伪造和错误信息同样令人担忧。根据ID验证服务Sumsub的数据,从2022年到2023年,全球的深度伪造欺诈增加了10倍以上。
XKTDBaON 3 ZOD2:( OpenAI表示,为防止滥用,Sora还采取了其他措施,其中包括一个过滤器,用于检测生成的视频是否描绘了未满18岁的人。如果有,OpenAI就会采用"更严格的门槛"来审核与性、暴力或自残有关的内容。
9:{<