关于使用自监督编码器对未见数据集进行聚类的一种实证研究

An Empirical Study into Clustering of Unseen Datasets with Self-Supervised Encoders

研究人员部署仅基于 ImageNet-1k 预训练的自监督编码器于未见过的数据集，利用常规聚类算法评估其嵌入是否形成有意义的簇。实验发现，在训练域内监督编码器效用更高，而在远外域（far-OOD）自监督编码器表现更优；但针对 ImageNet-1k 分类微调自监督编码器后，其在远外域的表现反而劣于仅使用自监督或仅使用监督的模型。聚类方法提供了一种独立于现有特征质量评估方法的自监督学习表示效用评估途径。此外，在 UMAP 降维空间下测量的轮廓系数与聚类性能高度相关，可用作无真实标签数据的聚类性能代理指标。相关代码实现已发布至 GitHub 仓库 zs-ssl-clustering/。