数智化转型网szhzxw.cn 数字化转型1000问 迁移学习有哪些“注意事项”?

迁移学习有哪些“注意事项”?

数字化转型1000问-数字化转型网szhzxw.cn
数字化转型1000问-数字化转型网szhzxw.cn
  • 任务匹配:如果预训练任务和新任务相差太远,效果会打折。比如,用风景模型认猫狗,可能不能抓住自己的细节。
  • 过风险:大象数据太少,模型可能“死记硬背”。比如,只见过短毛猫,遇到长毛猫就懵了。
  • 依赖基础:预训练模型不好,迁移也救不了。得挑个靠谱的“大师笔记”。
  • 调整噪音:参数不太方便改,参数调不好,可能还原了具体的好模型。

比如,“分区自适应”技术让模型更好地适应新任务;还有“冻结层”策略,先锁住模型基础,只修改最后几页“笔记”,降低风险。

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。数字化转型网www.szhzxw.cn

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然。

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。http://www.szhzxw.cn/81029.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部