WebSSL(Web-scale Self-Supervised Learning)是Meta、纽约大学等机构推出的视觉自监督学习(SSL)系列模型,基于大规模网络数据(如数十亿图像)训练视觉模型,无需语言监督学习。WebSSL包括多个模型变体,如Web-DINO和Web-MAE,参数规模从3亿到70亿不等。模型在多模态任务(如视觉问答VQA、OCR和图表理解)中表现出色,甚至超越依赖语言监督的模型(如CLIP)。WebSSL的核心优势在于对大规模数据的使用能力及对数据分布的敏感性,基于筛选包含更多文本的图像数据,显著提升OCR和图表理解能力。


全部评论
留言在赶来的路上...
发表评论