Tại sao không nên tin tưởng để ChatGPT tóm tắt văn bản?

Có những giới hạn đối với những gì ChatGPT biết, nhưng nó buộc phải cung cấp những gì bạn yêu cầu, ngay cả khi kết quả không chính xác. Điều này có nghĩa là ChatGPT có thể mắc lỗi, thậm chí một số lỗi phổ biến, đặc biệt là khi đang tóm tắt thông tin mà bạn không chú ý.

ChatGPT có thể bỏ qua hoặc hiểu sai prompt

Nếu cung cấp cho chatbot nhiều dữ liệu để sắp xếp, thậm chí là một prompt phức tạp, nó có thể đi chệch hướng dẫn và làm theo cách diễn giải của chính nó.

Đưa ra quá nhiều yêu cầu cùng một lúc là một trong những lỗi cần tránh. Nhưng cũng có thể do chatbot không nhận ra một từ hoặc cụm từ cụ thể mà bạn sử dụng.

Trong ví dụ sau, ChatGPT nhận được rất nhiều thông tin về chức năng ngôn ngữ của biểu tượng cảm xúc. Prompt đơn giản có chủ đích yêu cầu chatbot tóm tắt mọi thứ và giải thích mối liên hệ giữa biểu tượng cảm xúc và các nền văn hóa.

Chatbot đã hợp nhất cả hai câu trả lời thành một đoạn văn. Prompt tiếp theo với những hướng dẫn rõ ràng hơn yêu cầu nó tìm hiểu sâu hơn về kho kiến ​​thức của mình.

Đây là lý do tại sao bạn nên đảm bảo hướng dẫn của mình chính xác, cung cấp ngữ cảnh khi cần thiết và theo dõi kết quả của ChatGPT. Nếu bạn báo cáo bất kỳ sai sót nào ngay lập tức, chatbot có thể tạo ra kết quả chính xác hơn.

ChatGPT có thể bỏ qua thông tin bạn cung cấp

ChatGPT rất thông minh, nhưng không nên nhồi nhét thông tin chi tiết về một chủ đề cụ thể mà không chỉ rõ điều gì là quan trọng.

Vấn đề ở đây là nếu không có hướng dẫn thích hợp, thuật toán sẽ chọn lọc những thông tin mà nó cho là có liên quan đến báo cáo hoặc danh sách bạn cần.

Để kiểm tra ChatGPT, ChatGPT được yêu cầu tóm tắt một đoạn văn bản dài về các điểm đến phải xem ở Scotland và tạo hành trình cho kỳ nghỉ gia đình.

Khi được hỏi liệu có bỏ sót chi tiết nào không, nó thừa nhận rằng đã bỏ sót một số thông tin nhất định, chẳng hạn như các điểm tham quan cụ thể và những lựa chọn phương tiện di chuyển. Sự chính xác là mục tiêu của nó.

Không có gì đảm bảo rằng ChatGPT sẽ sử dụng các thông tin chi tiết mà bạn mong đợi. Vì vậy, hãy lập kế hoạch và diễn đạt prompt một cách cẩn thận để đảm bảo phần tóm tắt của chatbot được diễn đạt chính xác.

ChatGPT có thể sử dụng các lựa chọn thay thế sai

OpenAI đã cập nhật GPT-4o với dữ liệu có sẵn đến tháng 10 năm 2023, còn của GPT-4 Turbo là tháng 12 cùng năm. Tuy nhiên, kiến ​​thức của thuật toán không phải là vô hạn hoặc đáng tin cậy với các sự kiện theo thời gian thực - nó không biết mọi thứ về thế giới. Hơn nữa, không phải lúc nào cũng tiết lộ rằng nó thiếu dữ liệu về một chủ đề cụ thể trừ khi bạn hỏi trực tiếp.

Khi tóm tắt văn bản có chứa các tài liệu tham khảo khó hiểu như vậy, ChatGPT có thể thay thế chúng bằng các lựa chọn thay thế mà nó hiểu hoặc bịa ra những chi tiết về chúng.

Ví dụ sau đây liên quan đến bản dịch sang tiếng Anh. ChatGPT không hiểu tên tiếng Hy Lạp của giải thưởng Toque d'Or nhưng thay vì nêu bật vấn đề, nó chỉ đưa ra một bản dịch theo nghĩa đen và không chính xác.

Tên công ty, sách, giải thưởng, liên kết nghiên cứu và các yếu tố khác có thể biến mất hoặc bị thay đổi trong phần tóm tắt của chatbot. Để tránh những sai lầm lớn, hãy lưu ý đến giới hạn tạo nội dung của ChatGPT.

ChatGPT có thể hiểu sai sự thật

Điều quan trọng là bạn phải tìm hiểu tất cả những gì có thể về cách tránh sai sót với các công cụ Generative AI. Như ví dụ trên chứng minh, một trong những vấn đề lớn nhất với ChatGPT là nó thiếu một số thông tin nhất định hoặc đã học những điều không chính xác. Điều này sau đó có thể ảnh hưởng đến bất kỳ văn bản nào nó tạo ra.

Nếu bạn yêu cầu một bản tóm tắt các điểm dữ liệu khác nhau có chứa các sự kiện hoặc khái niệm xa lạ với ChatGPT, thì thuật toán có thể diễn đạt chúng một cách tồi tệ.

Trong ví dụ bên dưới, prompt yêu cầu ChatGPT tóm tắt 4 xu hướng TikTok và giải thích ý nghĩa của từng xu hướng.

Hầu hết các giải thích đều hơi sai hoặc thiếu thông tin cụ thể về những gì người đăng phải làm. Mô tả về xu hướng UMG Music đặc biệt sai lệch. Xu hướng đã thay đổi sau khi danh mục bị xóa khỏi TikTok và người dùng hiện đăng video để chỉ trích chứ không ủng hộ UMG, điều mà ChatGPT không biết.

Giải pháp tốt nhất là đừng tin tưởng một cách mù quáng vào các chatbot AI. Ngay cả khi ChatGPT tổng hợp thông tin mà bạn tự cung cấp, hãy đảm bảo kiểm tra các mô tả và tuyên bố cũng như lưu ý bất kỳ điều nào không chính xác. Sau đó, bạn sẽ biết cách cấu trúc prompt để có kết quả tốt nhất.

ChatGPT có thể nhận định sai giới hạn từ hoặc ký tự

Mặc dù OpenAI đã cải tiến ChatGPT bằng các tính năng mới nhưng nó dường như vẫn gặp khó khăn với các hướng dẫn cơ bản, chẳng hạn như tuân theo giới hạn từ hoặc ký tự cụ thể.

Thử nghiệm bên dưới cho thấy ChatGPT cần một số prompt. Nó vẫn thiếu hoặc vượt quá số từ cần thiết.

Đó không phải là sai lầm tồi tệ nhất có thể xảy ra với ChatGPT. Nhưng đó là một yếu tố nữa cần cân nhắc khi hiệu đính các bản tóm tắt mà công cụ này tạo ra.

Hãy nêu cụ thể về độ dài nội dung mong muốn. Bạn có thể cần thêm hoặc xóa một số từ ở đâu đó. Cần dành chút thời gian kiểm tra kỹ nếu bạn đang xử lý các dự án có giới hạn số từ nghiêm ngặt.

Nói chung, ChatGPT nhanh, trực quan và không ngừng cải tiến nhưng vẫn mắc lỗi. Vì vậy, đừng hoàn toàn tin tưởng ChatGPT sẽ tóm tắt văn bản bạn cần một cách chính xác.

Nguyên nhân thường liên quan đến những thông tin bị thiếu hoặc sai lệch trong kho dữ liệu của ChatGPT. Thuật toán của ChatGPT cũng được thiết kế để tự động trả lời mà không cần phải luôn kiểm tra độ chính xác. Hiện tại, cách hành động tốt nhất là phát triển nội dung của riêng bạn với ChatGPT như một trợ lý đắc lực cần được giám sát thường xuyên.