哈喽大家好我是站长，咨询网站任何问题，可加微信： 公众号：Ai
从2022年底的中途、稳定扩散，到Open AI的Chat GPT、DALL·E、Sora、Google的Gemini，AI在写文章、画画、制作图片、视频等领域展现了其无与伦比的能力。
看着AI一次次展示其惊人的能力，不知道你是否担心过，既然AI可以生成接近真人的图片和视频，我们作为普通人将能够区分出一张图片或一段文字？未来。 视频是真的吗？
这种担忧并非没有道理。 我们来做个小测试，看看你能否找到下面四张照片中唯一一张真人照片？
这些图像是由“此人不存在”网站生成的：thispersondoesnotexist.com
四张照片中，只有第一张是真人照片，其他三张图片都是AI生成的。
当然，除了人像之外，AI还可以生成各种风景照片，以及本身使用计算机制作的CG图像。 对于普通人来说，辨别这些照片就更加困难了。
但幸运的是，大多数情况下，我们能否辨别一张图片是否是人工智能创建的，不会对我们的生活产生实质性影响。 我们只是浏览一下互联网上的大部分图片。
近年来，出现了一些利用人工智能图像制作的假新闻。
AI 生成的特朗普被捕照片，取自 X（原始 Twitter）
虽然这些假新闻大多是恶作剧，但如果这样的假新闻充斥互联网，可能会让人怀疑新闻事件的可信度。 毕竟眼见不一定为实，那么我们如何知道什么是真的，什么是假的呢？
AI生成的图片《马斯克和他的机器人女友》，取自X（原创Twitter）
如何判断一张图片是否“真实”？
由于网络上的图片真伪良莠不齐，我们如何判断一张图片是否是AI生成的呢？ 其实有一些简单的方法可以帮助我们判断。
1 使用常识来查找异常情况
最直接有效的方法就是运用我们的“常识”。
近一两年，AI图像生成的人手特征一直是诟病的焦点。 虽然一些模型如Midjourney V5和Stable Diffusion已经针对手进行了优化，但如果你看AI假新闻中的图片，你仍然会发现一些“奇怪的手”。
使用GPT4.0的DALL·E绘制的手绘仍然可以看到“不合理”的手部特征
除了人手上的瑕疵之外，AI生成的图像也可能存在一些不符合常理的错误。
比如前面提到的“特朗普被捕图片”就有几个奇怪的地方。
人工智能生成的图片不合逻辑
首先，特朗普身后出现了一只不属于任何人、方向奇怪的脚。 此外，特朗普的左臂扭曲成异常形状。 他身后的路人对这样的“重大”事件显得漠不关心，追赶他的警察似乎也没有把注意力集中在特朗普身上。
因此，人类世界的常识和我们对物理世界的理解是我们识别AI图片的巨大武器。 如果图片中存在一些违反常理和物理定律的细节，则基本可以确定这是一张AI生成的图片。
2查询图片来源
然而，有些图片中的常识性错误隐藏在非常细节的地方，让人乍一看很难辨别。 对于这类图片还有一个简单的判断方法。
如今的搜索引擎都有“图片查询”功能，很多在线网站也可以提供类似的功能。 您可以直接上传“可疑图片”。 通过“查找图片来源”，您可以找到发布该图片的网站。
如果对于一个非常重要的新闻事件，发布媒体无一例外都是个人媒体或营销账号，那么该图片很可能是假的。 如果有可靠的媒体发表过，而且报道的内容也印证了图片的内容，那么这样的图片可能是真的。
现有的网站和图片源查询工具可以直接搜索图片源，图片都是从互联网上抓取的。
3借助识别网站
目前有很多网站可以直接查询图片的EXIF信息（记录相机的镜头、光圈、快门等参数）。
如果有人给你发了一张照片来展示他们的假期或摄影技巧，你可以直接上传照片进行查询。
如果你能看到相机参数，那么这张照片很有可能是真实的，至少说明它确实是用相机拍摄的。 如果没有这样的信息，它可能是由AI生成的，但也可能是压缩图像。
此外，还有专门识别AI图像的网站，例如“AI与否”网站。 这些网站还可以识别给定图像是人工智能生成的还是人类创建的，虽然不是 100% 准确，但可以作为参考。
AI or not对两张图片的判断结果，图片取自AI or not网站
当然，对于大多数新闻事件来说，热度很快就会过去，不会对老百姓的生活产生实质性影响。 但接下来要提到的“深度造假”技术将会对大家产生直接的影响。
当心！ 人工智能骗局：Deepfakes
Deepfake是深度学习和fake合成的一个词。 它的含义很容易理解，就是利用深度学习技术来伪造一些图片和视频。 此类图片和视频一般以人物为主要拍摄对象。
事实上，在GPT、midjourney等AI工具出现之前，Deepfake技术就已经出现了。 其最典型的应用之一就是AI换脸。
2019年，古装剧《长安十二时辰》中的角色“崔六郎”进行了AI换脸。 此外，2020年《三千乌鸦》、《了不起的儿科医生》等影视剧中也运用了AI换脸技术。
在最近的《海外短剧》中，Deepfake技术也发挥了重要作用。 利用AI换脸技术，可以一键将中国人脸换成外国人脸，省去了翻拍成本。
海外短剧一键换脸，图翻自X（原创推特）
现在一些AI换脸工具甚至可以根据照片完成换脸。
这些技术不仅可以用于日常娱乐，还可以用于商业活动，比如制作主播的数字化身，实现24小时不间断的直播和销售。
但如果深度伪造技术落入犯罪分子手中，就有可能成为他们做坏事的工具。
例如，诈骗者可以利用网络上收集的图片制作AI换脸视频，并利用此类视频实施诈骗。
今年年初，中国香港警方接到报案。 一名骗子利用AI换脸冒充某公司财务总监，要求该公司从公司财务中转出2亿港元（约合人民币1.8亿元）。 公司财务转账几天后，我意识到自己被骗了。
此外，还有骗子利用AI换脸，冒充受害人的朋友、孩子、父母等，进行诈骗。 看到视频中亲友的画面会让受害者放松警惕。
当坏人掌握了 Deepfake 技术时，将对普通人的生活产生真正的影响，任何人都可能成为受害者。
对抗 Deepfakes
我们应该做什么？
那么如何检测深度造假内容呢？ 在这方面，人工智能机构和个人都可以有所作为。
1对于人工智能公司
人工智能机构也在努力减少深度伪造技术的滥用。
在使用一些图像生成模型时，比如Open AI的DALL·E模型，你没有办法让AI处理特定的照片，也无法生成特定的面部内容。
大多数AI生成模型都会屏蔽特殊单词，以防止模型被用来生成恶意图片或视频。 例如，在“特朗普被捕”的假新闻图像传播后，中途禁止使用“逮捕”一词。
此外，大多数机构，包括Open AI、Meta、Midjourney等，都会在生成的图像数据中添加水印，提供AI换脸的正规机构也会在视频中嵌入水印，以区别于现实生活视频。
当然，不法分子在利益的驱使下，会绞尽脑汁地去除伪造的痕迹。 他们的目的是让人们认为这些图片和视频是真实的。
因此，对于每个人来说，我们也需要了解一些预防的方法。
2 个人
对于我们普通人来说，我们手中不太可能有专门的识别软件，也无法一帧一帧地分析图片中的瑕疵，但还是有一些简单的方法可以帮助我们分析判断。
例如，一些AI换脸视频是犯罪分子提前制作的。
如果视频中的人提到要求你转账，你可以要求视频中的人做一些具体动作，比如转身、用手在镜头前停留一会儿、挥手等。
通过这种方法，不仅可以辨别对方是否是预先录制的视频，同时，在自己面前晃动手会干扰一些简单的AI换脸工具，而“假人”可能会暴露缺陷。
另外，你还可以要求对方回答一些只有你们两个人知道的信息，比如“你们上次见面是在哪里？” 或者你知道对方没有孩子，但你故意询问对方孩子的情况，看看他们是不是骗子。
毕竟对方已经提到要你转钱了，所以要求对方做几个动作，回答几个问题来验证自己的身份也不算过分。 当然，你还要保护好自己的钱袋。
另外，大家可以牢记公安部提到的防诈骗“六不”、“八不”原则。
“六个都一样”
1、涉及到银行卡，一律挂断；
2. 说到中奖，一定要挂断电话；
3、遇到需要汇款的“电话转公安庭和法律”时，挂断；
4、所有要求您点击链接的短信将被删除；
5、切勿点击陌生人在微信上发来的链接；
6.凡是提到“安全账户”的都是骗局。
《八无所谓》
1、向公安机关提出要求汇款的；
2.任何人要求您将资金转入“安全账户”；
3、凡通知您中奖或领奖的，要求您先付款；
4. 任何人通知“家人”发生意外，必须先汇款；
5、通过电话索取银行卡信息及验证码的；
6、任何要求您开通网上银行的人都会受到检查；
7、任何自称领导者要求汇款；
8、任何不熟悉的网站都需要注册银行卡信息。
哈喽大家好我是站长，咨询网站任何问题，可加微信： 公众号：Ai