简单的说，CLIP 无需利用 ImageNet 的数据和标签进行训练，就可以达到 ResNet50 在 ImageNet数据集上有监督训练的结果，所以叫做 Zero-shot。 CLIP（contrastive language-image pre-training）主要的贡献就是 利用无监督的文本信息，作为监督信号来学习视觉特征。 CLIP (Contrastive Language-Image Pre-Training) 模型 是 OpenAI 在 2021 年初发布的用于 匹配图像和文本 的 预训练 神经网络模型，是近年来多模态研究领域的经典之作。该模型直接使用 大量的互联网数据 进行预训练，在很多任务表现上达到了SOTA 。 CLIP这种方法的上限如何，query的数量和质量至关重要。 如果图像文本对仅仅通过搜索的方式在互联网上获取，感觉文本不太可能复杂，这个会限制CLIP的上限。 如果能找到一种获取大量图像文本对，而且文本还比较复杂，那么CLIP这种方法前景会非常不错。 Alpha-CLIP不仅保留了CLIP的视觉识别能力，而且能够精确控制图像内容的重点。 它在各种任务中都表现出了有效性，包括但不限于开放世界识别、多模态大型语言模型和条件 2D/3D 生成。 1. CLIP模型结构 CLIP 的关键思想是通过训练两个编码器（图像和文本编码器）使得相对应的图像和文本在同一潜在空间中尽可能接近，而不相关的图像和文本尽可能远离。文本经过Text Encoder得到文本的向量表示，图片经过Image Encoder得到图片的向量表示，分别通过线性投射层，投射到共同的多模态线性 CLIP就是这样一个坚实的、可以用来微调的基础模型。 这篇文章介绍三种少样本基于CLIP微调的方法，实验的任务是图像分类，但是否能适用于其它任务，因成本不高，读者有时间可以自己尝试一下，欢迎在评论区探讨你的经验。

在CLIP的实验过程中，它从没有用ImageNet这个经典分类数据集上的数据做训练，但是在测试中，它却能达到和用了ImageNet做训练集的ResNet架构模型比肩的效果。 在我个人看来，CLIP解决缺点2的意义，要高于缺点1。 pc买祖国版，烦恼少，国际版转区补丁不一定能用，至少我个人打过就不生效，打开软件时会显示补丁得闪屏，但实际上却还是会提示区域问题，然后自动退出，而且繁体的翻译跟简体出入挺大的。 祖国版更新随便更，不用担心系统区域问题。 关于素材库…国际版好的素材基本都要付费的，免费的 谢邀，刚好前段时间对 CLIP及其变体BLIP/BLIP2 进行了总结。 全文针对面试特点， 以提问的方式 对这些方法的特点、优势、局限进行了总结~ CLIP CLIP核心思想？ 使用大量图像和文本的配对数据进行预训练，以学习图像和文本之间的对齐关系。 参考资料： Transformers库CLIP训练例程 Transformer库CLIPModel源码 我想先展示一下CLIP原论文中的实现，以及较为权威的huggingface团队实现的CLIP源码，最后谈一谈自己的理解。已经很熟悉代码实现的读者可以直接看文末本人的分析。（看了大概一个多小时CLIP吧，也只敢说自己理解了7成）首先展示一下伪代码：