效率碾压DALL·E 2和Imagen，谷歌新模型达成SOTA，还能一句话P图全球视讯

2023-01-09 14:14:57 来源：量子位

Alex 羿阁发自凹非寺
量子位 | 公众号 QbitAI

(资料图)

新年伊始，谷歌AI又开始发力 文字-图像生成模型 了。

这次，他们的新模型 Muse （缪斯）在CC3M数据集上达成了 新SOTA （目前最佳水平）。

而且其效率远超火爆全球的 DALL·E 2和Imagen （这俩都属于扩散模型），以及 Parti （属于自回归模型）。

——单张512x512分辨率图像的生成时间被压缩到仅1.3秒。

在图像编辑方面，只需一句文字指令，就可以对原始图像进行编辑。

（貌似不用再为学ps头秃了~）

如果想要效果更精准，还能选定遮罩位置，编辑特定区域。比如，把背景的建筑换成热气球。

Muse一经官宣，很快吸引了大波关注，目前原贴已收获4000+点赞。

看到谷歌的又一力作，有人甚至已经开始预言：

现在AI开发者的竞争非常激烈，看来2023将是非常精彩的一年。

比DALL·E 2和Imagen更高效

说回谷歌刚刚公开的 Muse。

首先，就生成图片的质量来说，Muse的作品大都画质清晰、效果自然。

来看看更多例子感受一下~

比如戴着毛线帽的树懒宝宝正在操作电脑；再比如酒杯中的一只羊：

平时八竿子打不着的各种主体，在一张图里和谐共存，没啥违和感。

要是你觉得这些还只能算AIGC的基操，那不妨再看看Muse的编辑功能。

比如一键换装（还能换性别）：

这既不需要加什么遮罩，还能一句话搞定。

而如果用上遮罩的话，就能实现更6的操作，包括一键切换背景，从原地切换到纽约、巴黎、再到旧金山。

还能从海边到伦敦、到花海，甚至飞到太空中的土星环上，玩一把刺激的滑板海豚跳。

（好家伙，不仅能轻松云旅游，还能一键上天......）

效果着实挺出色。那Muse背后都有哪些技术支持？为什么效率比DALL·E 2和Imagen更高？

一个重要的原因是，DALL·E 2和Imagen在训练过程中，需要将所有学到的知识都存储在模型参数中。

于是，它们不得不需要越来越大的模型、越来越多的训练数据来获取更多知识——将Better和Bigger绑在了一起。

代价就是参数量巨大，效率也受到了影响。

而据谷歌AI团队介绍，他们采用的主要方法名曰： 掩码图像建模 （Masked image modeling）。

这是一种新兴的自监督预训练方法，其基本思想简单来说就是：

输入图像的一部分被随机屏蔽掉，然后通过预训练文本任务进行重建。

Muse模型在离散标记的空间掩码上训练，并结合从预训练语言大模型中提取的文本，预测随机遮蔽的图像标记。

从上到下依次为：预训练的文本编码器、基础模型、超分辨率模型

谷歌团队发现，使用预先训练好的大语言模型，可以让AI对语言的理解更加细致透彻。

就输出而言，由于AI对物体的空间关系、姿态等要素把握得很不错，所以生成的图像可以做到高保真。

与DALL·E 2、Imagen等像素空间的扩散模型相比，Muse用的是 离散的token，并且采样迭代较少 。

另外，和Parti等自回归模型相比，Muse使用了 并行解码 ，效率也更高。

FID上获SOTA得分

前文提到， Muse 不仅在效率上取得了提升，在生成图像质量上也非常优秀。

研究者把它与DALL·E、LAFITE、LDM、GLIDE、DALL·E 2，以及谷歌自家的Imagen和Parti进行PK，测试了它们的FID和CLIP分数。

（FID分数用于评估生成图像的质量，分数越低质量越高；CLIP分数则代表文本与图像的契合程度，分数越高越好。）

结果显示，Muse-3B模型在COCO验证集中的zero-shot FID-30K得分为7.88，仅次于参数更大的Imagen-3.4B和Parti-20B模型。

更优秀的是，Muse-900M模型在CC3M数据集上实现了新的SOTA，FID得分为6.06，这也意味着它与文字的匹配度是最高的。

同时，该模型的CLIP分数为0.26，也达到了同期最高水平。

除此之外，为了进一步证实Muse的出图效率，研究者还对比了Muse与其他模型的单张图像生成时间：

在256x256、512x512的分辨率上Muse均达到了最快速度：0.5s和1.3s。

研究团队

Muse的研究团队来自谷歌，两位共同一作分别是Huiwen Chang和Han Zhang。

Huiwen Chang，现为谷歌高级研究员。

她本科就读于清华大学，博士毕业于普林斯顿大学，有过在Adobe、Facebook等的实习经历。

Han Zhang，本科毕业于中国农业大学，硕士就读于北京邮电大学，后在罗格斯大学取得了计算机科学博士学位。

其研究方向是计算机视觉，深度学习和医学图像分析等。

不过值得一提的是，目前Muse还没有正式发布。

有网友调侃，虽然它应该很香，但以谷歌的“尿性”，Muse离正式发布可能还有很长时间——毕竟他们还有18年的AI都没发呢。

话说回来，你觉得Muse的效果怎么样？

对于其正式发布之事，有木有一点期待？

传送门：https://muse-model.github.io/

参考链接：https://twitter.com/AlphaSignalAI/status/1610404589966180360

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

关键词：自回归模型农业大学了进一步

推荐内容

产业

为上市铺路？蜜雪冰城布局瓶装水市场

2022-09-15
游客因未购物遭导游辱骂？九寨沟：相关部门已介入调查

2021-10-20

油气

1

河北深州警方打掉一暴力催债团伙 36名嫌犯被刑拘

2

寒潮降温破冰点如何保障温暖过冬？探访北京城管及供热

3

莆田致2死3伤案嫌犯拒捕并畏罪自杀经抢救无效死亡

4

福建福州一在建摩天轮发生垮塌事故原因正在调查中

5

为什么对张恒处3227万元罚款？其违法事实有哪些？

6

山西民政部门支出超2亿元捐款保障受灾困难民众基本生活

7

张恒被税务部门依法处以3227万元罚款

8

湖北赛武当国家级自然保护区监测到珍稀动物

9

首届“优秀长江协助巡护员”评选颁奖

10

今年火灾事故已超6000起！电动自行车为何频频爆炸？

经济

浙江杭州西湖首次推“环湖游线” 重现灵隐天竺上香水路

　　中新网杭州10月18日电 (王题题胡燕婕)云天收夏色，浅秋正渐浓。10月18日，浙江杭州市西湖游船有限公司推出的惠民多站点“西湖环湖游

税务机关处罚一名艺人经纪人

　　中国税务机关处罚一名艺人经纪人　　中新社北京10月18日电 (记者赵建华)上海市税务局第一稽查局前期在艺人郑爽偷逃税案件检查过程中

【母亲河畔的中国】黄河“润泽”甘肃：沿岸城市兴文旅

　　中新网兰州10月18日电 (闫姣艾庆龙吉翔)“红山白土头，黄河向西流。”不少人疑问，天下黄河向东流，为何甘肃永靖县这段黄河却向西

《清华城市健康设施指数》：城市健康设施状况与其经济发

　　中新网北京10月18日电《清华城市健康设施指数》18日在北京发布。报告成果显示，城市健康设施指数领先城市以中心城市和东部沿海城市

安徽黄山救助国家一级保护动物：白锦长尾稚、野生梅花鹿

　　中新网安徽黄山10月18日电 (刘浩黄启宝汪娜)10月17日至18日，安徽省黄山市当地民警先后救助国家一级保护动物白锦长尾稚和野生梅花