Cinely

AI 内容违规提示莫名其妙?教你如何处理

Cinely Team··18 min
A film clapperboard crossed by striped barrier tape, representing a blocked AI video

你满怀期待地输入了一个汽车追逐、温馨睡前故事或是你自己主演的短片创意,点击生成,却只换来一句「内容违规」的提示,再无其他解释。感觉像是「无故」违规?其实通常都有原因,只是应用没有告诉你。自动化过滤器会检查你的文字、照片和生成的视频本身,并被设定为拦截任何看起来接近暴力、成人内容、未成年人、真实人物或他人版权角色的内容。它们只匹配模式,不理会意图,因此普通的故事也可能「中招」。

反复点击生成通常无济于事。有效的方法是找到可能触发过滤器的部分,改写那个创意点,并检查被拦截的尝试是否消耗了你的点数。提示被拦截也是导致「AI 视频生成点数消耗过快」的一个隐性原因。

哪些情况最容易导致内容被拦截?

我们对多款主流AI视频应用的差评进行了分析。凡是用户与视频生成之间隔着过滤器的应用,「误判」都是最突出的抱怨之一。许多低分评价都指向了类似的场景:宝宝、浪漫情节、历史场景,甚至是用户自己的面孔。有用户反馈,在「仅仅创作一个无害的儿童故事」时也反复收到「政策违规」错误。有应用将用户原创的角色标记为「第三方内容」,也有用户发现「一次简单的车祸场景」都被判定为违反服务条款。评论普遍认为规则严格且不一致。

当然,并非所有投诉都是误判。在某些应用中,约一半对过滤器不满的用户实际上是想要生成被明令禁止的成人内容。但整体模式是清晰的:无害的动作、家庭和肖像类请求常被拦截,而提示信息却很少说明原因。体验因人而异,应用的规则也时常在无通知的情况下变更。

为何会收到「无故」的AI内容违规提示?

大多数AI视频应用会对一个生成请求进行多次检查,任何一次检查都可能将其叫停。

提示词检查。 在渲染开始前,分类器会根据暴力、成人内容、未成年人、自残、仇恨言论、真实人物、版权角色等类别给你的文本打分。它只对词语和组合做出反应,不理解你的意图。因此,「射击」、「血」、「儿童」、「床」或一个名人的名字,都可能让一个无害的句子越界。这条界线被有意设定得很低。对公司而言,放过一个有害视频的风险,远大于误拦你一个无害视频。

图片检查。 上传的图像通常会经过筛查,以识别真实或知名人物、裸露内容及未成年人。下文会详述。

输出内容检查。 视频片段生成后,其画面(有时包括音频)可能会被再次检查。模型可能添加了你从未写过的内容,比如战斗场景中的伤口,仅此一项就可能触发拦截。这就是为什么有些拦截发生在等待之后,甚至在某些应用上是在点数被扣除之后。

提供商的检查。 许多应用不自建视频模型。它们将你的请求传递给模型提供商,提供商的安全过滤器会在应用自有的过滤器之上再次运行。应用只知道提供商反馈的信息,这可能只是一个简单的失败代码,因此你看到的提示往往只有「违规」二字。

很少有应用会详细解释拦截原因。一位用户在评论中直接要求公司:「请确切告诉我们违反了哪条规则,而不是仅仅给一个笼统的声明。」

什么会触发AI视频过滤器?

如果你的问题是「为什么我的AI视频被拦截了?」,根据我们阅读的评论,答案通常可归为以下六类之一。以下是用户反馈被拦截的情况及替代方案建议。

类别用户反馈被拦截的内容可以尝试的替代方案
暴力车祸;几乎任何超越平静散步的动作场面描绘撞击前或后的瞬间,画面中不出现血迹、伤口或武器
浪漫/亲密浪漫场景;聊天故事中的亲吻或摸头用服装、表情和场景暗示,而非直接的身体描绘;肢体接触保持简短
未成年人无害的儿童故事;卡通儿童;成年人被误判为未成年人使用成年角色;如果儿童角色至关重要,则设置为平淡的日常场景
真实人物AI生成的角色被标记为「知名人物」;圣诞老人被当作名人使用虚构的名字,以及不似任何名人的面孔
版权原创角色被标记为「第三方内容」使用自创的角色名、服装和配色;避免提及任何特许经营、品牌或歌曲名称
医疗/法律涉及医药、法律、移民或学校课题的脚本平实地陈述主题,避免描绘具体的症状或操作过程

规则也可能在无通知的情况下改变,因此上个月能通过的提示词,今天可能会失败。

为什么你自己的照片会被拒绝?

自动人脸检查无法确认照片中的人脸是你本人,也无法确认照片中的人同意出现在视频中。因此,提供商倾向于拒绝真实、可识别的人脸,尤其是看起来像名人的面孔。有用户反馈自己的面孔被拦截,AI生成的角色也被以「知名人物」为由拒绝。在某款换脸应用上,衣着整齐的自拍照竟被标记为「可能存在不当内容」。还有用户无法为自家宠物的照片生成动画。

  1. 尝试更换一张你个人的其他照片,最好是日常着装、背景干净、画面中没有任何可能被误读为敏感物品的独照。
  2. 如果这张也被拒绝,建议转而使用插画风格或AI绘制的人像,而不是与检查系统硬碰硬。
  3. 如果照片通过了但生成的人脸变成了陌生人,那问题就不在过滤器了。这属于「AI视频中的人脸为何会走样」中讨论的「面容漂移」问题。

提示被拦截会损失点数吗?

这取决于应用以及拦截发生的阶段。在文本阶段被拦截的AI视频提示理论上不应消耗任何点数,因为并未开始渲染。但用户反馈表明情况并非总是如此。有用户反映被标记的提示仍然计入了每日生成次数,也有用户表示被拦截的请求每次都会被扣费。

在渲染完成后发生的拦截,通常代价更高。有用户描述在点数被扣除后才收到违反准则的提示。有用户表示有效的提示词被误判,但点数依然被消耗。一位用户直言:「视频被判违反社区准则,但我依然被收取了生成费用。」

在重新尝试前,建议你:

  1. 立即截图当前的点数余额,并在下次尝试后再次截图对比。
  2. 检查你的使用记录或点数历史,查看被拦截的尝试是否被扣费。不要完全信任屏幕上的提示信息;有用户反馈生成失败时仍被扣费,即使应用显示没有。
  3. 如果你因拦截被扣费,请联系客服,并提供提示文本、生成时间以及前后余额截图。
  4. 如果你通过苹果或谷歌的应用商店内购付款,且客服无法解决,申请商店退款是最后一步。我们的「AI视频卡顿或失败时如何拿回点数」指南中有详细步骤。

如何改写被拦截的提示词?

你需要改变的是过滤器所针对的那个「想法」,而不是一两个词。分类器理解的是含义,所以把「刺伤」换成「用刀攻击」对它们来说是一样的。建议按以下顺序操作:

  1. 推断可能的触发点。 如果应用给出了原因,就从那里入手。如果没有,就寻找描述最具体的动词、任何真实姓名、角色附近的年龄或数字、身体部位词汇,以及品牌或角色名称。渲染前被拦截,问题可能在你的文本;渲染后被拦截,问题可能在模型绘制或生成的内容上。
  2. 暗示动作,而非直接描绘。 呈现动作发生前或后的瞬间,而不是冲击本身。例如,把「两车相撞,司机被甩出挡风玻璃」改为「轮胎发出尖啸;切到路边惊魂未定的司机,旁边是一辆撞瘪的汽车」。
  3. 省略身体特征的直接描述。 改为描述服装、表情和场景。例如,「一位身着紧身裙、身材曲线优美的女性」改为「一位身着绿色晚礼服的女性,在吧台边欢笑」。
  4. 创造原创名字和设定。 使用真实人物和知名角色是导致拦截的最快途径。给你的英雄一个原创的名字、服装和配色方案,因为对著名英雄的简单伪装仍可能被识别出来。
  5. 明确年龄。 如果你的角色是成年人,直接说明。如果儿童角色对故事至关重要,则保持场景为平淡的日常,不作身体描述,且不涉及危险。
  6. 检查对话。 像「我要杀了你」这样的台词可能会毁掉一个原本没问题的场景。「你会后悔的」可以达到同样的效果。
  7. 切勿重复发送完全相同的文本。 过滤器对相同的词会给出相同的评分,所以未作修改的重发通常会再次被拦截,并且在某些应用上会再次扣费。
  8. 先小范围测试。 在支付整个视频费用前,先尝试生成一个短场景,或者如果应用提供免费预览功能,先进行预览。

对于围绕角色目标和行动构建的提示,这些「角色驱动的AI电影提示词示例」是一个有用的起点。

Cinely 如何处理内容拦截?

Cinely 是一款跨网页、iOS和Android平台的AI电影制作工具。你可以「描述想法或粘贴剧本」,它会编写分场、分配角色,并将每个场景渲染成8秒的视频片段。视频本身及其安全过滤器均来自第三方提供商,规则严格:仅仅改动几个字很少能让被拦截的影片通过,真实人物的照片(即使是你自己的)也常被拒绝。

Cinely 的附加价值在于提供「理由」。当提供商指明了具体原因时,Cinely 会显示属于六类中的哪一种:暴力、成人内容、真实/知名人物、针对群体的仇恨言论、自残、或已知电影/角色/歌曲等版权素材。语音对话也可能单独被拦截。每个原因都附有相应的改写建议。例如,对于暴力,建议去除血迹、伤口和武器,并保持动作的暗示性。如果提供商仅返回失败代码而未说明原因,你会看到一个通用的提示信息。

Cinely 还设有其他几项防护措施:

  • 重发警告。 如果尝试发送刚刚被拦截的完全相同的文本,会弹出警告提示该内容通常会被再次拦截,并提供「编辑文本」和「仍要发送」的选项。点击「编辑文本」会将你的文字放回输入框。
  • 免费的脚本检查。 在剧本(Script)标签页中,「AI脚本检查」功能会标记出可能违反内容规则的问题,同时也会检查8秒片段的节奏、说话人标签和标题格式。除非你点击「应用」,否则它不会修改任何内容。
  • 点数返还。 被过滤器拦截的影片会按生成失败处理,已扣除的点数会被返还。在创建页面,默认开启预览模式。在此模式下,如果在编写分场阶段被拦截,你不会被扣费,因为此时尚未开始计费。
  • 照片替代方案。 如果提供商拒绝了你的照片,Cinely 会说明这并非对你个人的评判,并建议尝试另一张照片或使用插图风格人像。根据描述生成的AI人像也可能被拒绝;此时系统会建议你修改描述或添加照片。

同样的技巧也适用于 Cinely 上的互动式AI故事,你输入的每个动作都会生成新的视频片段:只需描述角色的行动,让场景本身去暗示其余内容。关于平台允许内容的总体原则,请阅读「Cinely 内容与安全准则」。

下次再遇到莫名其妙的AI内容违规提示时,不妨仔细地、有针对性地改写那个被标记的创意点一次,而不要盲目重复提交五次。如果你的故事涉及动作场景、浪漫情节,或是想让你自己出演,请「开启预览模式再开始创作」。你可以在支付前预览分场,如果过滤器在渲染阶段拦截了内容,点数也会自动返还。

为什么明明没问题,AI视频生成器却提示内容违规?
AI应用的自动化安全过滤器会多次检查你的文本、上传的图像和最终生成的视频。它基于关键词、图像特征和预设的风险类别(如暴力、成人内容、未成年人、真实或知名人物、版权角色)进行模式匹配,而非理解意图。因此,即使是普通的故事,包含“血”、“床”、“小孩”等词语或一张普通的自拍照也可能被拦截。应用通常出于风险规避,将拦截标准设定得较为严格,并且很少提供具体原因。
提示被拦截,会消耗我的生成点数吗?
这取决于应用和拦截发生的阶段。理论上,在文本阶段被拦截不应消耗点数,但用户报告表明并非总是如此。如果在视频渲染完成后被拦截,则很可能已被扣费。建议在重试前截图点数余额,并检查使用记录。如果被误扣,请及时联系客服并提供相关截图和提示内容。
如何改写被拦截的提示词?
关键不是修改一两个词,而是改变过滤器可能“过敏”的核心想法。具体步骤包括:1. 推断触发点(如具体的动词、人物描述、品牌名);2. 用暗示而非直接描述来呈现动作;3. 描述服装、表情和场景,而非身体特征;4. 使用原创的角色名和设定;5. 明确角色年龄;6. 检查对话是否有过激言辞;7. 切勿直接重复提交完全相同的文本。可以先通过预览或生成短片段来测试。
我上传自己的照片为什么被拒绝?
自动化面部识别系统无法确认照片中人物的身份或授权同意,因此倾向于拒绝清晰可辨的真实人脸,尤其是可能被误认为名人的面孔。可以尝试更换一张日常着装、背景干净的个人独照。如果仍被拒绝,建议改用AI绘制或插图风格的人像,而非强行使用真实照片。
Cinely是如何处理内容拦截的?有什么不同?
Cinely 基于第三方提供商的视频模型和安全过滤器,规则同样严格。其不同之处在于会尽量提供具体原因(如暴力、成人内容、真实/知名人物、仇恨言论、自残、版权素材),并给出相应的改写建议。此外,Cinely会拦截后返还已扣除的点数,并提供免费的脚本检查功能和“重新发送警告”。如果照片被拒,也会建议尝试其他照片或人像插图。

Written with AI assistance and edited by the Cinely Team.