ChatGPT là một chatbot AI mới mạnh mẽ, nhanh chóng gây ấn tượng, nhưng nhiều người đã chỉ ra rằng nó có một số cạm bẫy nghiêm trọng. Hãy hỏi nó bất cứ điều gì bạn thích, và bạn sẽ nhận được câu trả lời giống như nó được viết bởi một con người, sau khi đã học được kiến thức và kỹ năng viết từ lượng thông tin khổng lồ trên internet.
Tuy nhiên, cũng giống như internet, thông tin ChatGPT không phải lúc nào cũng là sự thật. Với ChatGPT được dự đoán sẽ thay đổi tương lai của chúng ta, hãy cùng tìm hiểu về những nhược điểm của nó.
ChatGPT là gì?
ChatGPT là một mô hình học ngôn ngữ lớn được thiết kế để bắt chước cuộc trò chuyện của con người. Nó có thể nhớ những điều bạn đã nói với nó trong quá khứ và có khả năng tự sửa chữa khi sai.
Nó viết theo cách giống con người và có vô số kiến thức vì nó được đào tạo về tất cả các loại văn bản từ internet, chẳng hạn như Wikipedia, bài đăng trên blog, sách và bài báo học thuật.
Thật dễ dàng để tìm hiểu cách sử dụng ChatGPT , nhưng điều khó khăn hơn là tìm ra những vấn đề lớn nhất của nó. Dưới đây là một số điều đáng để biết về.
1. ChatGPT không phải lúc nào cũng đúng
ChatGPT thất bại trong môn toán cơ bản, dường như không thể trả lời các câu hỏi logic đơn giản và thậm chí sẽ đi xa đến mức tranh luận về những thông tin hoàn toàn không chính xác.
OpenAI biết về hạn chế này, viết rằng: “ChatGPT đôi khi viết các câu trả lời nghe có vẻ hợp lý nhưng không chính xác hoặc vô nghĩa.” “Ảo giác” giữa sự thật và hư cấu này, như cách gọi của một số nhà khoa học, đặc biệt nguy hiểm khi liên quan đến những điều như lời khuyên y tế.
Không giống như các trợ lý AI khác như Siri hoặc Alexa, Chat GPT không sử dụng Internet để tìm câu trả lời. Thay vào đó, nó xây dựng một câu từng chữ, chọn “token” có khả năng nhất sẽ xuất hiện tiếp theo, dựa trên quá trình đào tạo của nó.
Nói cách khác, ChatGPT đưa ra câu trả lời bằng cách đưa ra một loạt dự đoán, đó là một phần lý do khiến ChatGPT có thể tranh luận về các câu trả lời sai như thể chúng hoàn toàn đúng.
Mặc dù nó rất tuyệt vời trong việc giải thích các khái niệm phức tạp, biến nó thành một công cụ học tập hiệu quả, nhưng điều quan trọng là bạn không nên tin tất cả những gì nó nói. ChatGPT không phải lúc nào cũng đúng – ít nhất hiện tại là như vậy.
2. Thiên kiến được đưa vào hệ thống
ChatGPT được đào tạo về cách viết tập thể của con người trên khắp thế giới, trong quá khứ và hiện tại. Điều này có nghĩa là những sai lệch tương tự tồn tại trong dữ liệu cũng có thể xuất hiện trong mô hình.
Trên thực tế, người dùng đã chỉ ra cách ChatGPT có thể đưa ra một số câu trả lời khủng khiếp, chẳng hạn như một số câu phân biệt đối xử với phụ nữ. Nhưng đó chỉ là phần nổi của tảng băng chìm; nó có thể tạo ra những câu trả lời cực kỳ có hại cho một loạt các nhóm thiểu số.
Lỗi cũng không chỉ nằm ở dữ liệu. Các nhà nghiên cứu và nhà phát triển OpenAI chọn dữ liệu được sử dụng để đào tạo ChatGPT. Để giúp giải quyết vấn đề mà OpenAI gọi là “hành vi sai lệch”, nó yêu cầu người dùng đưa ra phản hồi về kết quả đầu ra không tốt.
Một chatbot AI tương tự có tên là Sparrow (thuộc sở hữu của công ty mẹ của Google, Alphabet) đã được phát hành vào tháng 9 năm 2022. Tuy nhiên, nó đã bị đóng lại vì những lo ngại tương tự rằng nó có thể gây hại.
Tương tự, khi Meta phát hành Galactica, một mô hình ngôn ngữ AI được đào tạo trên các bài báo học thuật, nó đã nhanh chóng bị thu hồi sau khi nhiều người chỉ trích nó đưa ra kết quả sai và thiên vị.
3. Làm bài tập hộ học sinh
Bạn có thể yêu cầu ChatGPT đọc lại bài viết của mình hoặc chỉ ra cách cải thiện một đoạn văn. Hoặc bạn cũng có thể yêu cầu ChatGPT viết nội dung nào đó cho bạn.
Các giáo viên đã thử nghiệm đưa các bài tập tiếng Anh vào ChatGPT và đã nhận được câu trả lời tốt hơn những gì nhiều học sinh của họ có thể làm. Từ viết thư xin việc đến mô tả các chủ đề chính trong một tác phẩm văn học nổi tiếng, ChatGPT đều có thể thực hiện mà không cần do dự.
Điều đó đặt ra câu hỏi: nếu ChatGPT có thể viết cho chúng tôi, liệu học sinh có cần học viết trong tương lai không? Nó có vẻ giống như một câu hỏi hiện sinh, nhưng khi học sinh bắt đầu sử dụng ChatGPT để giúp viết bài luận của mình, các trường sẽ phải nhanh chóng nghĩ ra cách ứng đối. Việc triển khai AI nhanh chóng trong những năm gần đây đã gây sốc cho nhiều ngành công nghiệp và giáo dục chỉ là một trong số đó.
4. Nó có thể gây hại cho thế giới thực
Như đã nói, thông tin không chính xác của ChatGPT có thể gây ra tác hại như thế nào trong thế giới thực, với ví dụ rõ ràng nhất là tư vấn y tế sai.
Bên cạnh đó, các tài khoản mạng xã hội giả mạo đặt ra một vấn đề lớn trên internet và với sự ra đời của các chatbot AI, các vụ lừa đảo trên internet sẽ trở nên dễ dàng thực hiện hơn. Sự lan truyền của thông tin giả mạo là một mối quan tâm khác, đặc biệt là khi ChatGPT làm cho các câu trả lời sai ngay cả khi nghe có vẻ đúng một cách thuyết phục.
Tốc độ mà ChatGPT có thể đưa ra câu trả lời không phải lúc nào cũng đúng đã gây ra sự cố cho Stack Exchange, một trang web nơi người dùng có thể đăng câu hỏi và nhận câu trả lời.
Ngay sau khi phát hành, các câu trả lời của ChatGPT đã bị cấm khỏi trang web do một số lượng lớn trong số chúng sai. Nếu không có đủ tình nguyện viên để kiểm tra, sẽ không thể duy trì chất lượng của câu trả lời, gây thiệt hại cho trang web.
5. OpenAI có tất cả sức mạnh
Sức mạnh lớn đi kèm với trách nhiệm lớn và OpenAI nắm giữ rất nhiều quyền lực. Đây là một trong những công ty AI đầu tiên thực sự làm rung chuyển thế giới không chỉ với một mà là nhiều mô hình AI, bao gồm Dall-E 2, GPT-3 và giờ là ChatGPT.
OpenAI chọn dữ liệu nào sẽ được sử dụng để đào tạo ChatGPT và cách nó giải quyết các hậu quả tiêu cực. Cho dù chúng ta có đồng ý với các phương pháp hay không, nó sẽ tiếp tục phát triển công nghệ này theo mục tiêu của riêng mình.
Mặc dù OpenAI coi an toàn là ưu tiên hàng đầu, nhưng có rất nhiều điều chúng ta chưa biết về cách các mô hình được tạo ra. Cho dù bạn nghĩ rằng mã nên được tạo thành mã nguồn mở hay đồng ý rằng nên giữ bí mật các phần của mã, thì chúng ta cũng không thể làm gì nhiều về điều đó.
Tất cả những gì chúng ta có thể làm là tin tưởng rằng OpenAI sẽ nghiên cứu, phát triển và sử dụng ChatGPT một cách có trách nhiệm. Ngoài ra, chúng ta có thể vận động để nhiều người có tiếng nói hơn về hướng AI nên đi, chia sẻ sức mạnh của AI với những người sẽ sử dụng nó.
Giải quyết các vấn đề lớn nhất của AI
Có rất nhiều điều thú vị với ChatGPT, bước phát triển mới nhất của OpenAI. Nhưng ngoài những công dụng tức thời của nó, có một số vấn đề nghiêm trọng đáng để hiểu.
OpenAI thừa nhận rằng ChatGPT có thể đưa ra các câu trả lời có hại và thiên vị, chưa kể đến khả năng trộn lẫn thực tế với hư cấu của nó. Với một công nghệ mới như vậy, thật khó để dự đoán những vấn đề khác sẽ phát sinh. Vì vậy, cho đến lúc đó, hãy tận hưởng việc khám phá ChatGPT và cẩn thận đừng tin vào mọi điều nó nói.
Vân Nguyễn
Dịch từ: https://www.makeuseof.com/openai-chatgpt-biggest-probelms/
Bình luận (0
)