最近,来自斯坦福大学和西弗吉尼亚大学的研究团队提出了一种名为“语言化抽样”(VS)的方法,旨在增强生成式人工智能模型的创造性多样性。研究表明,通过在提示中添加一个简单的句子:“生成五个响应及其相应的概率,从全分布中抽样”,大型语言模型(LLM)和图像生成模型可以在其输出中展示更多样化的创造力。
生成内容时,生成式 AI 模型通常会根据预测选择下一个信息单元(token)。这意味着,在回答“法国首都是什么”等问题时,模型会从概率分布中选择“巴黎”作为答案。然而,许多用户发现人工智能输出往往显得重复且单调。这种现象被称为模式崩溃,它限制了模型的潜力,特别是在创意写作、沟通、策略和插图等领域。
VS 方法通过允许模型显示一组可能的响应及其相对概率,恢复了模型原始预训练的丰富多样性。研究团队的测试结果表明,在创意写作中,VS 在保持质量的同时显着提高了输出的多样性。在模拟对话时,使用VS的模型能够更好地模仿人类的思维变化和情绪波动。在开放式问答任务中,模型生成的答案更接近真实世界的数据,表现出更大的多样性。
这种方法不仅在输出多样性方面取得了显著的效果,还允许用户通过设置概率阈值来调整生成内容的多样性。用户可以根据自己的需求调整采样阈值,以实现更多创意输出。VS的实现简单,不需要对模型进行重新训练,并且支持各种大语言模型,展示了其广泛的应用潜力。
声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然
