基础模型的定义、应用和挑战 第1张图3. 《》

在最近对GPT-3的批评中，作者认为，即使人工智能语言生成系统能够形成语法正确的句子，它们在理解上下文和生成适当的反应方面还需要进一步发展。

根据研究，语言模型产生的无关紧要的延续性句子并不能反映出前面句子的物理、社会和心理方面。尽管如此，在没有监督的情况下应用于商业用途时，缺乏常识性的理解会产生非道德的结果。

例如，另一项研究提出，一个GPT-3医疗聊天机器人在与一个人造病人互动时提供了自杀建议。

基础模型的另一个弱点是它们在训练数据集中模仿偏见、歧视性分类或定型观念。

事实证明，当训练数据没有被检查时，语言生成系统可以产生种族主义笑话或性别歧视的句子，而仇恨言论或性别歧视没有被标记为不安全。