ChatGPT có học hỏi từ cuộc trò chuyện của người dùng không?

Với hàng triệu người dùng ChatGPT, bạn có thể thắc mắc OpenAI làm gì với tất cả các cuộc trò chuyện trên nền tảng của mình. Nó có liên tục phân tích những điều bạn nói với ChatGPT không?

Câu trả lời là có, ChatGPT học hỏi từ đầu vào của người dùng - nhưng không phải theo cách mà hầu hết mọi người nghĩ. Dưới đây là hướng dẫn chuyên sâu giải thích lý do ChatGPT theo dõi các cuộc hội thoại, cách ChatGPT sử dụng chúng và liệu bảo mật của bạn có bị xâm phạm hay không.

ChatGPT có ghi nhớ các cuộc trò chuyện không?

ChatGPT sử dụng bộ nhớ theo ngữ cảnh để ghi nhớ và tham chiếu các đầu vào trước đó, đảm bảo các phản hồi phù hợp, nhất quán.

Lấy đoạn hội thoại dưới đây làm ví dụ. Khi hỏi ChatGPT về ý tưởng công thức, nó đã xem xét thông báo trước đây của người dùng về chứng dị ứng đậu phộng.

Đây là công thức an toàn của ChatGPT.

Bộ nhớ theo ngữ cảnh cũng cho phép AI thực hiện các tác vụ nhiều bước. Hình ảnh bên dưới cho thấy ChatGPT vẫn bám sát nhân vật ngay cả sau khi cung cấp một truy vấn mới.

ChatGPT có thể nhớ hàng chục chỉ dẫn trong các cuộc trò chuyện. Đầu ra của nó thực sự cải thiện độ chính xác khi bạn cung cấp thêm ngữ cảnh. Chỉ cần đảm bảo rằng bạn giải thích hướng dẫn của mình một cách rõ ràng.

Bạn cũng không nên kỳ vọng quá nhiều vì bộ nhớ theo ngữ cảnh của ChatGPT vẫn còn những hạn chế.

Cuộc trò chuyện ChatGPT có dung lượng bộ nhớ hạn chế

Bộ nhớ theo ngữ cảnh là hữu hạn. ChatGPT có tài nguyên phần cứng hạn chế nên chỉ ghi nhớ tối đa các điểm cụ thể của những cuộc hội thoại hiện tại. Nền tảng sẽ quên các truy vấn trước đó khi bạn đạt đến dung lượng bộ nhớ của nó.

Trong cuộc trò chuyện này, tác giả đã hướng dẫn ChatGPT nhập vai một nhân vật hư cấu tên là Tomie.

Nó bắt đầu trả lời truy vấn trong vai Tomie, không phải ChatGPT.

Mặc dù yêu cầu đã thành công, nhưng ChatGPT đã "xả vai" sau khi nhận được truy vấn 1.000 từ.

OpenAI chưa bao giờ tiết lộ giới hạn chính xác của ChatGPT, nhưng có tin đồn rằng nó chỉ có thể xử lý 3.000 từ mỗi lần. Trong thử nghiệm, ChatGPT gặp trục trặc chỉ sau hơn 2.800 từ.

Bạn có thể chia truy vấn của mình thành hai phần 1.500 từ, nhưng ChatGPT có thể sẽ không giữ lại tất cả các chỉ dẫn của bạn. Chỉ cần bắt đầu một cuộc trò chuyện khác hoàn toàn. Nếu không, bạn sẽ phải lặp lại các chi tiết cụ thể nhiều lần trong suốt cuộc trò chuyện của mình.

ChatGPT chỉ ghi nhớ đầu vào liên quan đến chủ đề

ChatGPT sử dụng bộ nhớ theo ngữ cảnh để cải thiện độ chính xác của đầu ra. Nó không chỉ giữ lại thông tin vì mục đích thu thập. Nền tảng gần như tự động quên các chi tiết không liên quan, ngay cả khi bạn còn lâu mới đạt đến giới hạn token.

Trong hình ảnh bên dưới, tác giả cố gắng gây nhầm lẫn cho AI bằng nhiều hướng dẫn không liên quan.

Tác giả giữ đầu vào của mình dưới 100 từ, nhưng ChatGPT vẫn quên chỉ dẫn đầu tiên và nhanh chóng thoát khỏi nhân vật.

Trong khi đó, ChatGPT tiếp tục nhập vai trong cuộc trò chuyện này vì chúng tôi chỉ hỏi những câu hỏi liên quan đến chủ đề.

Lý tưởng nhất là mỗi cuộc đối thoại phải tuân theo một chủ đề duy nhất để duy trì kết quả đầu ra chính xác, phù hợp. Bạn vẫn có thể nhập đồng thời nhiều hướng dẫn. Chỉ cần đảm bảo chúng phù hợp với chủ đề tổng thể, nếu không ChatGPT có thể bỏ các chỉ dẫn mà nó cho là không liên quan.

OpenAI nghiên cứu các cuộc trò chuyện của người dùng như thế nào?

Bộ nhớ theo ngữ cảnh chỉ áp dụng cho cuộc trò chuyện hiện tại của bạn. Kiến trúc không trạng thái của ChatGPT coi các cuộc hội thoại là những phiên bản độc lập; nó không thể tham khảo thông tin từ những cuộc trò chuyện trước đó. Bắt đầu cuộc trò chuyện mới luôn reset trạng thái của mô hình.

Điều này không có nghĩa là ChatGPT kết xuất các cuộc trò chuyện của người dùng ngay lập tức. Điều khoản sử dụng của OpenAI nêu rõ rằng công ty thu thập thông tin đầu vào từ các dịch vụ tiêu dùng không phải API như ChatGPT và Dall-E. Bạn thậm chí có thể yêu cầu bản sao lịch sử trò chuyện của mình.

Mặc dù ChatGPT tự do truy cập các cuộc trò chuyện, nhưng chính sách quyền riêng tư của OpenAI nghiêm cấm các hoạt động có thể gây hại cho người dùng. Dữ liệu của bạn chỉ có thể được sử dụng để nghiên cứu và phát triển sản phẩm.

Nhà phát triển tìm kiếm sơ hở

OpenAI sàng lọc sơ hở thông qua các cuộc trò chuyện. Nó phân tích các trường hợp trong đó ChatGPT thể hiện sự sai lệch về dữ liệu, tạo ra thông tin có hại hoặc giúp thực hiện những hoạt động bất hợp pháp. Các nguyên tắc đạo đức của nền tảng liên tục được sửa đổi.

Ví dụ, các phiên bản đầu tiên của ChatGPT đã trả lời công khai những câu hỏi về mã hóa phần mềm độc hại hoặc chế tạo chất nổ. Những sự cố này khiến người dùng cảm thấy như OpenAI không kiểm soát được ChatGPT. Để lấy lại lòng tin của công chúng, OpenAI đã đào tạo chatbot từ chối bất kỳ câu hỏi nào đi ngược lại nguyên tắc của nó.

Thu thập và phân tích dữ liệu cho mục đích đào tạo chatbot

ChatGPT sử dụng kỹ thuật học có giám sát. Mặc dù nền tảng ghi nhớ tất cả các đầu vào, nhưng nó không học hỏi từ chúng trong thời gian thực. OpenAI thu thập và phân tích chúng trước. Làm như vậy đảm bảo rằng ChatGPT không bao giờ hấp thụ thông tin có hại, gây tổn hại mà nó nhận được.

Học có giám sát đòi hỏi nhiều thời gian và năng lượng hơn so với các kỹ thuật không giám sát. Tuy nhiên, việc để AI tự phân tích đầu vào đã được chứng minh là có hại.

Lấy Microsoft Tay làm ví dụ. Vì nó liên tục phân tích các tweet mà không có hướng dẫn của nhà phát triển, những người dùng ác ý cuối cùng đã huấn luyện nó đưa ra những ý kiến ​​phân biệt chủng tộc, dập khuôn.

Các nhà phát triển thường xuyên để mắt tới những thành kiến

Một số yếu tố bên ngoài gây ra sai lệch trong AI. Định kiến ​​vô thức có thể phát sinh từ sự khác biệt trong mô hình đào tạo, lỗi tập dữ liệu và các hạn chế do xây dựng kém. Bạn sẽ phát hiện ra chúng trong các ứng dụng AI khác nhau.

Rất may, ChatGPT chưa bao giờ thể hiện sự phân biệt chủng tộc hoặc đối xử thành kiến. Theo một báo cáo của New York Post, có lẽ xu hướng tồi tệ nhất mà người dùng nhận thấy là ChatGPT nghiêng về các hệ tư tưởng cánh tả (chỉ những người có hoàn cảnh bất lợi hơn những người khác). Nền tảng viết cởi mở về các chủ đề tự do hơn là bảo thủ.

Để giải quyết những thành kiến này, OpenAI đã cấm hoàn toàn ChatGPT cung cấp thông tin chi tiết về chính trị. Nó chỉ có thể trả lời những sự thật chung chung.

Hiệu suất của ChatGPT liên tục được đánh giá

Người dùng có thể cung cấp phản hồi về đầu ra của ChatGPT. Bạn sẽ tìm thấy các nút thích và không thích ở phía bên phải của mọi phản hồi. Sau khi nhấn nút thích hoặc không thích, một cửa sổ sẽ xuất hiện trong đó bạn có thể gửi phản hồi bằng lời của mình.

Hệ thống phản hồi rất hữu ích. Chỉ cần cho OpenAI một chút thời gian để sàng lọc các nhận xét. Hàng triệu người dùng thường xuyên nhận xét về ChatGPT - các nhà phát triển ChatGPT có thể ưu tiên những trường hợp sai lệch nghiêm trọng và tạo ra kết quả có hại.

Cuộc trò chuyện ChatGPT của bạn có an toàn không?

Xem xét các chính sách bảo mật của OpenAI, bạn có thể yên tâm rằng dữ liệu của mình sẽ vẫn an toàn. ChatGPT chỉ sử dụng các cuộc trò chuyện để đào tạo dữ liệu. Các nhà phát triển của nó nghiên cứu những thông tin chuyên sâu đã thu thập để cải thiện độ chính xác và độ tin cậy của đầu ra, chứ không phải ăn cắp dữ liệu cá nhân.

Như đã nói, không có hệ thống AI nào hoàn hảo. ChatGPT vốn không thiên vị, nhưng những cá nhân có ý đồ xấu vẫn có thể khai thác các lỗ hổng của nó, chẳng hạn như lỗi bộ dữ liệu, sự cố đào tạo bất cẩn và lỗ hổng bảo mật. Để bảo vệ mình, bạn hãy học cách chống lại những rủi ro này.