Sử dụng SetFit với Hugging Face

SetFit là một framework hiệu quả và không cần prompt để fine-tuning few-shot cho Sentence Transformers. Nó đạt độ chính xác cao với rất ít dữ liệu có nhãn - ví dụ, chỉ với 8 ví dụ có nhãn cho mỗi lớp trên bộ dữ liệu cảm xúc Customer Reviews, SetFit đã cạnh tranh được với việc fine-tuning RoBERTa Large trên toàn bộ tập huấn luyện gồm 3k ví dụ 🤯!

So với các phương pháp học ít mẫu khác, SetFit có một số tính năng độc đáo:

• 🗣 Không cần prompt hay verbalizer: Các kỹ thuật hiện tại để fine-tuning few-shot đòi hỏi phải tạo thủ công prompt hoặc verbalizer để chuyển đổi các ví dụ sang định dạng phù hợp với mô hình ngôn ngữ nền tảng. SetFit loại bỏ hoàn toàn việc sử dụng prompt bằng cách tạo trực tiếp các embedding phong phú từ các ví dụ văn bản.
• 🏎 Đào tạo nhanh: SetFit không yêu cầu các mô hình quy mô lớn như T0 hay GPT-3 để đạt độ chính xác cao. Do đó, quá trình đào tạo và suy luận thường nhanh hơn một bậc độ lớn (hoặc hơn).
• 🌎 Hỗ trợ đa ngôn ngữ: SetFit có thể được sử dụng với bất kỳ Sentence Transformer nào trên Hub, điều này có nghĩa là bạn có thể phân loại văn bản bằng nhiều ngôn ngữ chỉ bằng cách tinh chỉnh một checkpoint đa ngôn ngữ.

Khám phá SetFit trên Hub

Bạn có thể tìm các mô hình SetFit bằng cách lọc ở phía bên trái của trang mô hình.

Tất cả các mô hình trên Hub đều đi kèm với những tính năng hữu ích sau:

1. Thẻ mô tả mô hình được tạo tự động kèm theo mô tả ngắn.
2. Một widget tương tác mà bạn có thể sử dụng để thử nghiệm mô hình trực tiếp trong trình duyệt.
3. Một widget Inference Providers cho phép bạn thực hiện các yêu cầu suy luận.

Cài đặt

Để bắt đầu, bạn có thể làm theo hướng dẫn cài đặt SetFit. Bạn cũng có thể sử dụng lệnh cài đặt một dòng sau đây thông qua pip:

pip install -U setfit

Sử dụng các mô hình có sẵn

Tất cả các mô hình setfit đều có thể dễ dàng được tải từ Hub.

from setfit import SetFitModel

model = SetFitModel.from_pretrained("tomaarsen/setfit-paraphrase-mpnet-base-v2-sst2-8-shot")

Sau khi tải xong, bạn có thể sử dụng SetFitModel.predict để thực hiện suy luận.

model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

['positive', 'negative']

Nếu bạn muốn tải một mô hình SetFit cụ thể, bạn có thể nhấp vào Use in SetFit và sẽ nhận được một đoạn mã hoạt động!

Tài nguyên bổ sung

• Tất cả các mô hình SetFit có sẵn trên Hub
• Kho mã SetFit
• Tài liệu SetFit
• Bài báo SetFit