(SeaPRwire) –   Các mô hình ngôn ngữ đã được điều chỉnh để đưa ra những dự đoán táo bạo thay vì thừa nhận sự thiếu hiểu biết, một nghiên cứu đã phát hiện.

Công ty đứng sau ChatGPT đã giải quyết vấn đề dai dẳng về việc các mô hình Trí tuệ nhân tạo tạo ra các tuyên bố nghe có vẻ hợp lý nhưng lại sai sự thật mà họ gọi là “ảo giác”.

Trong một tuyên bố vào thứ Sáu, OpenAI giải thích rằng các mô hình thường được khuyến khích đưa ra một phỏng đoán, dù không chắc chắn đến đâu, thay vì thừa nhận rằng chúng không thể trả lời một câu hỏi.

Vấn đề này có thể là do các nguyên tắc cốt lõi nằm trong “các quy trình đào tạo và đánh giá tiêu chuẩn,” công ty cho biết thêm.

OpenAI đã tiết lộ rằng những trường hợp các mô hình ngôn ngữ “tự tin đưa ra câu trả lời không đúng sự thật” vẫn tiếp tục gây khó khăn ngay cả các phiên bản mới hơn, tiên tiến hơn, bao gồm cả hệ thống GPT-5 hàng đầu mới nhất của họ.

Theo kết quả của một nghiên cứu gần đây, vấn đề bắt nguồn từ cách hiệu suất của các mô hình ngôn ngữ thường được đánh giá hiện nay, trong đó mô hình đoán mò được xếp hạng cao hơn một mô hình cẩn thận thừa nhận sự không chắc chắn. Theo các giao thức tiêu chuẩn, các hệ thống AI học được rằng việc không tạo ra câu trả lời là một cách chắc chắn để nhận điểm 0 trong một bài kiểm tra, trong khi một phỏng đoán không có căn cứ có thể hóa ra lại đúng.

“Việc sửa đổi bảng điểm có thể mở rộng việc áp dụng các kỹ thuật giảm ảo giác,” tuyên bố kết luận, đồng thời thừa nhận rằng “độ chính xác sẽ không bao giờ đạt 100% bởi vì, bất kể kích thước mô hình, khả năng tìm kiếm và suy luận, một số câu hỏi trong thế giới thực vốn dĩ không thể trả lời được.”