101.dev 社区
Hugging Face: 代码生成模型的预训练和微调
Hugging Face
transformers
101
(101.dev)
2023 年10 月 22 日 18:20
1
和大家分享我们的机器学习工程师 Loubna Ben Allal 在 10 月上海 KubeCon 大会的主题演讲
题目是: 代码生成模型的预训练和微调
演讲介绍了构建和训练大型代码模型比如: StarCoder
的幕后过程,
还探讨了如何使用开源库,包括 Transformers、datasets 和 PEFT 等。