唐霜

今天看了一篇文章《图片越糊越危险？西湖大学发现多模态大模型「攻击舒适区」》让我联想到之前有些人通过给真人图片打栅格线就能突破人脸审核的事，让我更加确信我之前的理论，就是大模型（Seedance2.0也是大模型）的算力（专注力）是有限的，这是导致某些完全不符合我们预期的现象出现的根本原因。

这篇文章，讲了一种通过把图片弄的很糟糕，来突破多模态模型的安全审查的手段。简单讲，就是模型花了很大的力气，把精力都用在了识别文字上，结果，留给安全审查的力气就变得很少。

通过对国内外各大模型的测试，这个团队得到了确切的结论，为图片增加杂音，确实可以消耗模型的专注力来抵消安全审查的强度。

对应到Seedance2.0中，作为用户，我们可以利用这一特性来优化我们的视频生成。具体来说，可以有以下几个方面：

1. 突破人脸审查，通过将人脸隐藏在杂质信息后面，让模型花更多算力去重建人脸，安全审查的算力就更少
2. 将出现问题的提示词（文本）以图片的形式提交给Seedance，同时，提供更多参考图，让Seedance先去理解图片中的文本，理解参考图信息，把花在图片理解上的算力拉满，这样它就没有功夫去琢磨安全审查的问题
3. 撇除多余信息，将你参考图中的多余信息抹除，为seedance保留足够的算力，来确保还原你参考图中场景、人物的一致性，这是一个反向利用算力理论的方案

不过，这种思路，可以解决前置，也就是视频生成前的审查或算力问题，而不能解决视频生成后官方的版权检测问题，官方在seedance2生成视频后，有一个版权检测的阶段，如果发现生成的视频中，存在侵犯第三方版权的可能，就会报错。