OpenAI ra mắt GPT-Classifier để giúp phát hiện văn bản do AI viết
Thông báo của OpenAI được đưa ra khi nhu cầu phát hiện văn bản do AI tạo ra ngày càng tăng lên.
GPT-Classifier cố gắng tìm hiểu xem một đoạn văn bản nhất định do con người viết hay là tác phẩm của AI. Mặc dù ChatGPT và các mô hình GPT khác được đào tạo rộng rãi về các loại văn bản đầu vào, nhưng công cụ GPT-Classifier được “tinh chỉnh trên tập dữ liệu gồm các cặp đôi văn bản do con người viết và AI viết về cùng một chủ đề.”
Vì vậy, GPT-Classifier cố gắng so sánh những điểm tương đồng giữa văn bản con người viết và văn bản AI tạo ra để tìm ra các điểm khác biệt có thể giúp tiết lộ nguồn của văn bản.
Khả năng phát hiện của GPT-Classifier hiện còn hạn chế
Mặc dù các biên tập viên và giáo viên chắc hẳn rất thích ý tưởng có thể dễ dàng phát hiện văn bản do AI tạo ra, OpenAI đã cảnh báo rằng “GPT-Classifier không hoàn toàn đáng tin cậy.”
Hiện tại, GPT-Classifier có thể “xác định chính xác 26% văn bản do AI viết” trong khi gắn nhãn nhầm 9% văn bản do người tạo ra là do AI viết. OpenAI cũng lưu ý rằng độ chính xác của công cụ “thường được cải thiện khi độ dài của văn bản đầu vào tăng lên.”
Nhu cầu phát hiện văn bản do AI tạo rất cao
Ngay cả với những hạn chế hiện tại của GPT-Classifier, do nhu cầu phát hiện văn bản do ChatGPT tạo ra hiện khá cao nên có thể nhiều người vẫn muốn dùng thử công cụ này. Cam kết của OpenAI trong việc xây dựng và phát hành công cụ miễn phí để phát hiện văn bản do GPT tạo ra là rất quan trọng khi ngày càng có nhiều sinh viên, copywriter, lập trình viên và nhiều người khác sử dụng các công cụ tạo văn bản AI.
Hiện tại, mặc dù GPT-Classifier đã được thiết lập và có sẵn để thử nghiệm, nhưng tốt nhất bạn nên thận trọng trong việc sử dụng nó.
Tìm hiểu các khóa học lập trình của FUNiX tại đây:
Vân Nguyễn
Dịch từ: https://www.makeuseof.com/openai-launches-ai-detector-counter-chatgpt/
Bình luận (0
)