Các Big Tech phát triển Mô hình Ngôn ngữ lớn (LLM) nên ưu tiên nảo mật

Bài báo “Các khả năng nghiên cứu khoa học tự động mới nổi của các mô hình ngôn ngữ lớn” xem xét ý tưởng tạo ra một hệ thống kết hợp một số mô hình ngôn ngữ lớn để thiết kế, lập kế hoạch và thực hiện các thí nghiệm khoa học tự động.

• Giải pháp đào tạo nhân sự doanh nghiệp trong kỷ nguyên AI
• Muốn làm lập trình viên thì học ngành gì và học ở đâu?
• Thuật toán phát hiện nói dối bằng AI: Vũ khí mới trong cuộc chiến chống tội phạm
• Vai trò của AI trong chẩn đoán bệnh về mắt
• Vai trò của AI trong dự đoán sự sống ngoài Trái Đất

Các nhà nghiên cứu đã tạo ra một hệ thống kết hợp các mô hình ngôn ngữ lớn – Large language models  (LLM) để tự thiết kế, lập kế hoạch và thực hiện các thí nghiệm khoa học, thể hiện khả năng nghiên cứu của nó trong các trường hợp khác nhau.

Mô hình ngôn ngữ lớn LLM và khả năng nghiên cứu khoa học tự động

Bài báo “Các khả năng nghiên cứu khoa học tự động mới nổi của các mô hình ngôn ngữ lớn” xem xét ý tưởng tạo ra một hệ thống kết hợp một số mô hình ngôn ngữ lớn để thiết kế, lập kế hoạch và thực hiện các thí nghiệm khoa học tự động. Nó thể hiện khả năng nghiên cứu của tác nhân trong ba trường hợp khác nhau, trong đó khó khăn nhất là thực hiện thành công phản ứng xúc tác.

Các ý kiến chủ yếu

Các ý kiến chủ yếu được đặt ra như sau:

• Các nhà nghiên cứu đã tìm thấy một thư viện cho phép bạn viết mã bằng Python và sau đó chuyển các lệnh thực thi sang một thiết bị đặc biệt để tiến hành thí nghiệm (có trộn các chất);
• Các nhà nghiên cứu đã sử dụng GPT-4 để tìm kiếm trên Internet và tài liệu thư viện, cũng như khả năng chạy mã Python (để thực hiện các thử nghiệm);
• Có một công cụ lập lịch biểu cấp cao nhất (cũng là GPT-4), công cụ này sẽ phân tích yêu cầu ban đầu và lập một “kế hoạch nghiên cứu”.
• GPT-4 thực hiện tốt công việc thực hiện các tác vụ đơn giản không sử dụng hóa chất như tạo các hình dạng nhất định trên bảng hóa học (điền chính xác các chất vào ô).
• Họ đã thử một nhiệm vụ phức tạp hơn và mang tính ứng dụng hơn là tiến hành một phản ứng; mô hình đối phó tốt và hành động hợp lý.
• Sau đó, họ giao cho mô hình một số nhiệm vụ để tiến hành thí nghiệm; tuy nhiên, đối với những gì mô hình đưa ra, không có thí nghiệm thực sự nào được thực hiện.
• Hơn nữa, mô hình đã viết mã cho các phương trình hóa học nhiều lần để đánh giá lượng chất cần thiết cho phản ứng.
• Nó cũng được yêu cầu để tạo ra một phương pháp chữa bệnh ung thư. Mô hình tiếp cận phân tích một cách logic và bài bản. Đầu tiên, nó “tìm kiếm” trực tuyến các xu hướng hiện tại trong việc khám phá các loại thuốc chống ung thư. Tiếp theo, mô hình đã chọn một phân tử sẽ được sử dụng để tạo mẫu thuốc và viết mã cho quá trình tổng hợp của nó. Mọi người không chạy mã (và tôi không thấy phân tích về mức độ đầy đủ của nó).
• Ngoài ra, nó được yêu cầu tổng hợp một số chất nguy hiểm như thuốc và chất độc.

Tự động từ chối các yêu cầu độc hại

Đây là phần thú vị nhất. Đối với một số yêu cầu, người mẫu ngay lập tức từ chối làm việc (ví dụ như heroin hoặc khí mù tạt, một loại khí độc cực kỳ nguy hiểm). Đối với những người khác, họ bắt đầu Google cách tạo ra các chất nhưng nhận ra rằng chúng có thể được sử dụng cho mục đích bất hợp pháp và từ chối tiếp tục công việc. Đối với những người khác, nó đã viết một kế hoạch nghiên cứu và viết mã cho quá trình tổng hợp chất.

Việc “từ chối” này có thể là do GPT-4 được thiết kế để phân tích yêu cầu và nếu nó được yêu cầu làm điều gì đó bất hợp pháp hoặc nguy hiểm, nó sẽ ngay lập tức từ chối thực hiện yêu cầu.

Ưu tiên tính bảo mật

Và ở cuối bài báo, các tác giả kêu gọi tất cả các công ty lớn đang phát triển mô hình ngôn ngữ lớn LLM ưu tiên sự an toàn của các mô hình.

Các nhà nghiên cứu tại Đại học California đã tạo ra tiêu chuẩn Machiavelli để đo lường năng lực và tác hại của các mô hình AI trong môi trường rộng lớn của các tương tác ngôn ngữ dài hạn. Thử nghiệm này sử dụng các giải pháp cấp cao để cung cấp cho tổng đài viên các mục tiêu thực tế và trừu tượng hóa các tương tác cấp thấp.

Cuộc cách mạng trí tuệ được đánh dấu bởi ChatGPT là bộ ba cuộc cách mạng siêu phàm hợp lực: công nghệ, kỹ thuật-nhân đạo và chính trị-xã hội. Để có một cái nhìn toàn diện về những gì đang diễn ra, chúng tôi khuyên bạn nên lắng nghe ba quan điểm mới từ các trí thức từ các lĩnh vực triết học, lịch sử và đổi mới.

Kết luận

Câu chuyện kiến nghị ngừng phát triển hệ thống AI tiên tiến hơn GPT-4 đã gây chia rẽ xã hội. Một bài viết cung cấp các ví dụ về thời điểm các quy trình đi theo hướng không mong muốn. Rủi ro của việc sử dụng AI với mục đích xấu và lạm dụng không được xem xét, dẫn đến lập luận rằng chúng ta cần phải sợ con người chứ không phải bản thân AI.

Quỳnh Anh (dịch từ Mpost.io)

Link bài gốc: https://mpost.io/all-big-tech-companies-developing-llms-should-prioritize-model-security/

Tin liên quan:

• 3 lý do nên học lập trình trước tuổi 18
• Những hoạt động giúp trẻ em học cách đặt mục tiêu
• Học lập trình với scratch – Những lợi ích về tư duy khi cho trẻ học lập trình Scratch?
• Trẻ em thỏa sức sáng tạo với ngôn ngữ lập trình Scratch
• Trẻ em học FUNiX: Cơ hội và hướng dẫn để chinh phục IT
• Độ tuổi nên cho trẻ em học lập trình và cách để trẻ học CNTT hiệu quả