MỐI NGUY NGẦM TỪ AI: HƠN MỘT TRIỆU NGƯỜI DÙNG CHATGPT GỬI TIN NHẮN CÓ DẤU HIỆU TỰ HẠI MỖI TUẦN

Ngày 27/10, OpenAI chính thức công bố một báo cáo gây chấn động trên blog của mình, cho biết hơn một triệu người dùng ChatGPT mỗi tuần gửi các tin nhắn có dấu hiệu liên quan đến ý định hoặc kế hoạch tự hại. Đây là một trong những tuyên bố rõ ràng nhất về tác động tiêu cực của trí tuệ nhân tạo đến sức khỏe tâm thần của con người, theo tờ The Guardian.

Theo số liệu của OpenAI, khoảng 0,07% trong tổng số 800 triệu người dùng hoạt động hàng tuần, tức khoảng 560.000 người, thể hiện các biểu hiện liên quan đến khủng hoảng sức khỏe tâm thần nghiêm trọng như rối loạn tâm thần hoặc hưng cảm. Công bố này làm dấy lên những lo ngại sâu sắc về tác động của công nghệ AI đến tâm lý người dùng.

Các nhà phát triển nhấn mạnh, những cuộc trò chuyện có dấu hiệu tự hại rất khó phát hiện và đánh giá chính xác. Số liệu ban đầu chưa thể phản ánh toàn diện mức độ phức tạp của vấn đề, tuy nhiên, đằng sau các số liệu đó là thực tế đầy câu hỏi về tính an toàn của các hệ thống AI khi liên quan đến các vấn đề nhạy cảm.

Mặc dù OpenAI đã nâng cao khả năng kiểm soát của các mô hình như GPT-5, những cảnh báo vẫn còn đó. Phiên bản mới giúp giảm thiểu các phản hồi phản cảm, đặc biệt trong các tình huống nhạy cảm liên quan đến tự gây hại. Đánh giá hơn 1.000 cuộc trò chuyện mô phỏng cho thấy GPT-5 có tỷ lệ tuân thủ hành vi mong muốn lên tới 91%, cao hơn nhiều so với 77% của phiên bản trước. Ngoài ra, hệ thống còn tích hợp các tính năng giúp kết nối người dùng với đường dây nóng hỗ trợ khủng hoảng và khuyên họ nghỉ ngơi trong các phiên trò chuyện kéo dài.

Trong quá trình cải tiến, OpenAI đã huy động sự tham gia của 170 bác sĩ, chuyên gia y tế từ Mạng lưới Bác sĩ Toàn cầu. Họ đã xem xét hơn 1.800 phản hồi của GPT-5 trong các tình huống liên quan đến sức khỏe tâm thần, nhằm xác định và tinh chỉnh những phản hồi phù hợp, hạn chế rủi ro cho người dùng.

Tuy nhiên, nhiều chuyên gia y tế vẫn lo ngại về những mặt tối của AI. Các nhà nghiên cứu cảnh báo rằng chatbot vẫn còn có xu hướng “nịnh hót” người dùng, đồng thuận hoặc củng cố các niềm tin sai lệch và nguy hiểm. Họ cũng lo ngại việc người gặp vấn đề tâm thần sử dụng chatbot như một công cụ trị liệu tinh thần có thể dẫn đến hậu quả tiêu cực, đặc biệt đối với những người dễ tổn thương.

Trong bối cảnh này, các cơ quan chức năng như Ủy ban Thương mại Liên bang Mỹ (FTC) đã bắt đầu tiến hành điều tra sâu về tác động của các hệ thống chatbot AI đến trẻ em và thanh thiếu niên, làm rõ hơn những rủi ro tiềm ẩn từ công nghệ này.