OpenAI宣布即将推出一款新的AI图像检测工具，此举意在帮助用户辨认图像是否由其开发的DALL-E图像生成器制作，并监控由该技术生成的内容。同时，该公司还计划为这些AI生成的图像加入新的水印，以便用户更容易识别这些作品是否出自DALL-E。
据OpenAI最近发布的博客文章透露，这款名为“图像检测分类器”的新工具现处于测试阶段，公司正在向公众开放测试并征集反馈。这个工具可以高达98%的准确率识别由DALL-E制作的图像，而对其他平台生成的图像，识别准确率则在5%至10%之间。
此外，OpenAI也宣布加入了内容出处和真实性联盟（C2PA），这标志着公司在确保作品真实性方面迈出了重要一步。OpenAI正在开发的新水印技术，即便在图像被修改后，也能够揭示出水印，这有助于进一步确保内容的来源可追溯和真实性。
OpenAI的DALL-E 3是基于公司最新的大型语言模型GPT-4的AI图像生成器，去年发布，现已通过Microsoft的Bing Chat及其更新后的Copilot平台直接向用户提供服务。DALL-E 3不仅能生成更为细致和符合用户需求的图像，还通过进一步的开发和改进，提供了更加真实和高质量的照片生成。
尽管OpenAI已在DALL-E平台上设置了多项安全措施，以防止其生成工具被滥用制作虚假和有害内容，但仍有不法分子试图操纵这些AI平台来进行不当活动。为此，OpenAI正在积极开发新的检测工具和水印技术，以帮助全球用户更容易识别和验证AI生成的内容，保证其真实性和安全性。
相关文章
