Hugging Face: 代码生成模型的预训练和微调


和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲 :loudspeaker:
题目是: 代码生成模型的预训练和微调

演讲介绍了构建和训练大型代码模型比如: StarCoder :star2: 的幕后过程,
还探讨了如何使用开源库,包括 Transformers、datasets 和 PEFT 等。