快速入门
用一个简单的例子来示意，文本分类
安装
pip install transformers
示例——情感分析
以下均为python代码，我是放在jupyter中写的
from transformers import pipeline
pipe = pipeline("text-classification")
res = pipe("just so so!")
print(res)
# [{'label': 'POSITIVE', 'score': 0.9974353909492493}]
- 注意：
- pipeline() 方法指定任务和加载模型的，返回的对象可以用来做具体的事。
- pipe() 方法在此时传入的是你要分类的文本
- pipeline() 方法支持传入不同的参数，用来指定不同的任务，具体内容见下表。
- 在执行pipeline时，代码会自动从huggingface.co中下载模型到本地，这个例子中，使用的模型是distilbert-base-uncased-finetuned-sst-2-english。同时也可以自定义模型，只需要传入model参数即可。如果想从本地加载模型，可下载完模型后，直接填写本地模型地址，这个后续会提到。
pipeline中的参数值得是任务类型，可以传入如下类型。
| 任务 | 描述 | 模态 | Pipeline |
|---|---|---|---|
| 文本分类 | 为给定的文本序列分配一个标签 | NLP | pipeline(task=“text-classification”) |
| 文本生成 | 根据给定的提示生成文本 | NLP | pipeline(task=“text-generation”) |
| 命名实体识别 | 为序列里的每个token分配一个标签(人, 组织, 地址等等) | NLP | pipeline(task=“ner”) |
| 问答系统 | 通过给定的上下文和问题, 在文本中提取答案 | NLP | pipeline(task=“question-answering”) |
| 掩盖填充 | 预测出正确的在序列中被掩盖的token | NLP | pipeline(task=“fill-mask”) |
| 文本摘要 | 为文本序列或文档生成总结 | NLP | pipeline(task=“summarization”) |
| 文本翻译 | 将文本从一种语言翻译为另一种语言 | NLP | pipeline(task=“translation”) |
| 图像分类 | 为图像分配一个标签 | Computer vision | pipeline(task=“image-classification”) |
| 图像分割 | 为图像中每个独立的像素分配标签(支持语义、全景和实例分割) | Computer vision | pipeline(task=“image-segmentation”) |
| 目标检测 | 预测图像中目标对象的边界框和类别 | Computer vision | pipeline(task=“object-detection”) |
| 音频分类 | 给音频文件分配一个标签 | Audio | pipeline(task=“audio-classification”) |
| 自动语音识别 | 将音频文件中的语音提取为文本 | Audio | pipeline(task=“automatic-speech-recognition”) |
| 视觉问答 | 给定一个图像和一个问题，正确地回答有关图像的问题 | Multimodal | pipeline(task=“vqa”) |
| 文档问答 | 给定一个图像和一个问题，正确地回答有关文档的问题 | Multimodal | pipeline(task=“document-question-answering”) |
| 图像字幕 | 给定图像，生成标题 | Multimodal | pipeline(task=“image-to-text”) |
原理
接下来，我们分步来看一下这个pipeline() 方法做了哪些事。pipeline：顾名思义，流水线/管道的意思，就是让AI的调用像流水线一样简单。以上文中的文本分类为例，讲述整个pipeline的流程：
-
原理图
-
代码实现
from transformers import AutoTokenizer,AutoModel
import torch
# 加载分词器和模型，这里要指定从哪个模型加载分词器模型，使用上文提到的
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased-finetuned-sst-2-english")
model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased-finetuned-sst-2-english")
# 使用分词器对句子进行处理
seq = "just so so!"
input_text = "just so so!"
inputs = tokenizer(input_text, return_tensors="pt")
print(inputs)
# 输出结果如下 {'input_ids': tensor([[ 101, 2074, 2061, 2061, 999, 102]]), 'attention_mask': tensor([[1, 1, 1, 1, 1, 1]])}
# 将分词结果传入model进行预测
res = model(**inputs)
# 对预测结果映射到二维（因为我们做的事二分类问题）
logits = torch.softmax(res.logits, dim=-1)
print(logits) # tensor([[0.0026, 0.9974]])
pred = torch.argmax(logits).item()
print(pred) # 1
# 此时输出的pred为0或者1，需要进行映射，才能返回之前返回的 'label': 'POSITIVE'
# 查看一下model的配置id2label，可以发现1就是POSITIVE。当然就可以自定义这个配置的
print(model.config.id2label)
# {0: 'NEGATIVE', 1: 'POSITIVE'}
#映射输出
result = model.config.id2label.get(pred)
print(result) # POSITIVE
print(float(logits[0][1])) # 0.9974353909492493
评论区