Hugging News #0414: Attention 在多模态情景中的应用、Unity API 以及 Gradio 主题构建器

每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」,本期 Hugging News 有哪些有趣的消息,快来看看吧!

社区动向

Attention 在视觉领域的应用

注意力机制改变了许多学科的深度学习研究,从 NLP 开始扩展到视觉、语音等。注意力机制的使用在深度学习研究中变得越来越流行,理解和解释注意力机制的内部工作是至关重要的。

我们发布了一个教程,介绍了 Attention 在视觉和多模态情景中的应用,重点讲解了如何理解和解释注意力,包括使用注意力作为解释、探究注意力的深度和广度、探究跨注意力等方面以及一些最新研究成果和未来研究方向。

查看示例和教程内容: https://hf.co/all-things-vits

Scikit-learn

我们正在联合 Scikit-learn 共同举办社区冲刺活动,时间是 4 月 12 日 - 4 月 30 日。在这个社区冲刺活动中,我们将从 Scikit-learn 文档中构建交互式演示,并将这些演示直接贡献给文档。我们会使用 Gradio 库来创建前端应用,支持数据可视化库和 skops 集成,使用一行代码就能启动分类或回归界面。应用构建完成后,我们将创建一个 Hugging Face Space,上传应用文件和 requirements.txt 就可以将应用部署。最后将应用 PR 回 scikit-learn 库的原始文档。这是一个很好的贡献开源的方式,快来参加吧!

查看活动安排: https://github.com/huggingface/community-events/blob/main/sklearn-sprint/guidelines.md

开源库更新

Gradio 主题构建器正式开源

Gradio 主题构建器 (Gradio Theme Builder) 是一个开源的机器学习应用的 GUI 工具,可以帮助用户轻松构建机器学习应用的 UI 界面。只需升级版本,运行 gr.themes.builder() 即可。

Transformers 支持流式输出

从 4.28 版本开始,:hugs: transformers 库加入了 generate() 流式生成器,支持文本-文本、语音-文本或图像-文本模型的输出流式传输。开发者可以通过添加 TextStreamer 类轻松实现文本输出流,也可以根据需要创建自己的流式传输类。此外,:hugs: transformers 还计划将此功能扩展到 beam search 方法、pipeline 类和 Gradio 等。

查看文档: https://hf.co/docs/transformers/main/en/generation_strategies#streaming

学习资源 & 内容更新

新的学习资源页面

我们将 NLP 课程和 RL 课程放在了一个新的学习资源页面: Hugging Face - Learn

Hugging Face Unity API

开源的 Hugging Face Unity API 发布啦,它可以让你更轻松地在 Unity 项目中使用 Hugging Face 推理 API。目前支持对话 API,未来会增加更多功能。

查看应用示例: https://hf.co/spaces/dylanebert/unity-chat
查看开源代码: https://github.com/huggingface/unity-api

使用 Flower 在 IMDB 数据集上微调 distilBERT 进行序列分类

我们发布了一篇博客,介绍了如何使用 Hugging Face 和 Flower 在多端进行语言模型的联邦训练。以 IMDB 数据集为例,使用预训练的 Transformer 模型(distilBERT)进行序列分类,最终目标是检测电影评分是积极还是消极。

查看这篇博客文章: https://hf.co/blog/fl-with-flower

使用 Hugging Face 的 Docker Spaces 轻松构建机器学习应用程序

Docker 团队发布了一篇博文,介绍了 Hugging Face 团队对 Docker Spaces 的支持——用户可以通过编写 Dockerfile 来创建任何自定义应用程序,并详细介绍了如何创建 Docker Space 并编写 FastAPI 应用程序进行文本生成。

查看这篇文章: https://www.docker.com/blog/build-machine-learning-apps-with-hugging-faces-docker-spaces/


以上就是本周的 Hugging News,祝大家周末愉快!