近日
社交平台被一组图片刷屏了
千禧年间的小学生在小卖铺买零食
一张印刷完好的数学试卷
马斯克在直播间卖瑜伽裤
……
你能看出哪张是AI生成的吗？
答案是
全部
4月22日，美国人工智能公司OpenAI对外正式推出ChatGPT Images 2.0模型，这是其ChatGPT平台内图像生成功能的最新一次升级。
由于其生成的图片真假难辨，相关话题迅速冲上热搜，引发网友热议。
模型发布后，一些用GPT-Image-2生成的AI假图已经在网络上开始传播。比如，“Tim Cook加入小米汽车”的“官宣图”，粗看分辨不出AI的痕迹。随后，小米发文辟谣。
据了解，生成的图片之所以真假难辨，是因为该大模型解决了以往AI细节粗糙、文字乱码扭曲的问题。
有网友测试用该模型生成全篇《出师表》，内容工整规范，几乎零错漏。
不过，也有眼尖的网友在其他图片中发现，生图过程中会偶尔出现少量文字差错。
另据澎湃新闻，记者实测后发现，GPT-Image-2还存在严重的安全漏洞。记者将个人身份证上传到ChatGPT后，要求把身份证中的人脸换成库克。Image-2不仅改变了人脸，还替换了人名和出生年月日信息，并同步替换了身份证号码中的出生年月日信息。
该模型不仅无法识别个人敏感信息，而且也没有阻拦用户进行修改、伪造证件的提示词。
此外，GPT-Image-2的所有直出图均没有标注“AI生成”的水印或提示，进一步加大了核实和甄别的难度。
面对该大模型生成的图片，不少网友感叹，第一反应是“被吓到了”。
还有网友实测，只需简单输入一句话，就能一键生成精美的商业设计图，担心“设计师是不是要失业了”。
许多网友担忧，未来图片真假将更难分辨。按照国家相关规定，AI生成内容应强制标注，而面对不断升级的海外AI工具，大家也呼吁加快完善AI领域的法律法规，进一步加强监管。
更有网友直言，有图有真相的时代，已经过去了。“以后都要问一句，这是真的吗？”
对此，你怎么看？
来源：“中国青年报”微信公众号、澎湃新闻等