概要：Google推出基于DeepMind团队开发的GenAI图像模型Imagen 2的新AI工具ImageFX。该工具通过基于提示的用户界面，引入了“表达芯片”的独特设计，使用户能够在其创作和想法的“相邻维度”中进行实验。然而，伴随着创新带来的潜在滥用问题，Google强调采取了技术措施和安全防范措施，以防止不当内容的输出。
近日，谷歌公司发布了一款新的人工智能工具，名为ImageFX，旨在通过创造和编辑图像，为用户提供更加丰富的创作体验。ImageFX的底层技术是由DeepMind团队开发的GenAI图像模型Imagen 2。
与类似的工具如OpenAI的DALL-E 3、Meta的Imagine with Meta AI和Microsoft Designer等不同，ImageFX通过提供基于提示的用户界面，让用户通过简单的文本提示创建和编辑图像。然而，ImageFX的独特之处在于其引入了“表达芯片”（expressive chips）的概念，这实际上是一组关键词建议，让用户能够在创作和想法的“相邻维度”中进行实验。
谷歌在一篇博客文章中写道：“ImageFX旨在用于实验和创造，它允许您通过简单的文本提示创建图像，然后可以通过使用表达芯片的新提示轻松修改它们。”
然而，随着这种创新技术的推出，人们开始担心潜在的滥用问题，特别是在最近发生的一些事件后。针对这一点，谷歌表示已经采取了措施，以确保ImageFX不能被用于其未预期的目的，例如通过添加“技术保障”来限制“有问题的输出”，如暴力、冒犯性和色情内容。此外，ImageFX还具有“提示级别过滤器”，用于处理“具名人物”，这可能是指公众人物，尽管谷歌在其新闻材料中并未明确说明。
“我们从一开始就投资于培训数据的安全性，”谷歌表示。“符合我们的AI原则，我们还进行了广泛的对抗性测试和红队测试，以识别和减轻潜在的有害和问题性内容。”
为了进一步确保安全性，ImageFX生成的图像将被打上SynthID的数字水印。这种数字水印对人眼来说是无法察觉的，但可以用于识别图像的真实性。谷歌在博客文章中解释说：“SynthID水印对人眼是看不见的，但可用于识别。通过“关于这张图片”的额外信息，当你在谷歌搜索或Chrome中遇到使用谷歌AI工具生成的图像时，你将知道它是否被水印标记。”
这项新的AI工具将在谷歌的AI测试厨房（AI Test Kitchen）中推出，这是谷歌用于实验性AI项目的Web应用程序。
与此同时，Google还宣布将Imagen 2引入其更多产品和服务，包括其下一代AI搜索体验和托管AI服务Vertex AI。Imagen 2现在还用于Google Ads中的文本到图像功能以及Workspace中的Duet AI，后者是Google的GenAI产品套件，专注于提高生产力。
在Vertex AI中，Imagen 2通过API提供给Google Cloud的客户。此外，Imagen 2现在还可通过Bard，谷歌的AI聊天机器人，进行调用。
“借助Imagen 2，Bard能够理解简单或复杂的提示，以便您可以生成各种高质量的图像，”谷歌解释说。“只需输入一个描述，比如‘创建一张狗在冲浪板上的图片’，Bard将生成定制、广泛的视觉效果，帮助您将想法变为现实。”
然而，谷歌仍未透露用于训练Imagen 2的数据，这让人感到有些失望。对于GenAI供应商如谷歌是否可以在公开可用的数据上训练模型，然后将该模型商品化，这是一个公开法律问题。相关的诉讼正在法院进行中，供应商辩称他们受到公平使用原则的保护。但在尘埃落定之前，还需要一些时间。
与此同时，谷歌选择在这个问题上保持沉默，显然是为了避免可能的法律风险。这也使得这一争议问题的未来走向仍然扑朔迷离。
