ChatGPT sắp có tính năng kiểm soát dành cho phụ huynh

Ngày 2/9, OpenAI công bố kế hoạch bổ sung tính năng kiểm soát dành cho phụ huynh trong ChatGPT, nhằm giúp cha mẹ giám sát và hạn chế những tác động tiềm ẩn của công cụ này đối với thanh thiếu niên.

Quyết định này được đưa ra sau khi gia đình Adam Raine, thiếu niên 16 tuổi tại California, khởi kiện OpenAI với cáo buộc ChatGPT đã đưa ra lời khuyên liên quan đến việc lên kế hoạch tự tử. Trước đó, năm 2024, một phụ huynh ở Florida cũng từng kiện Character.AI vì cho rằng nền tảng này có liên quan đến cái chết của con trai 14 tuổi.

OpenAI công bố kế hoạch bổ sung tính năng kiểm soát dành cho phụ huynh trong ChatGPT (Ảnh minh họa: Getty Images)

Nhiều báo cáo từ The New York Times và CNN cho thấy mối lo ngại ngày càng gia tăng về việc người dùng có xu hướng gắn bó cảm xúc quá mức với ChatGPT, dẫn đến nguy cơ ảo tưởng, mất kết nối với thực tế và xa cách gia đình.

Trong một bài blog gần đây, OpenAI thừa nhận rằng những trải nghiệm đau lòng từ người dùng trong lúc khủng hoảng đã thúc đẩy công ty minh bạch hơn về định hướng an toàn, dù không trực tiếp nhắc đến các vụ việc vừa qua.

Theo thông tin từ OpenAI, bộ công cụ mới sẽ cho phép cha mẹ liên kết tài khoản với con cái, quản lý cách ChatGPT phản hồi thông qua tính năng ghi nhớ và lịch sử trò chuyện. Hệ thống cũng sẽ gửi cảnh báo nếu phát hiện dấu hiệu căng thẳng nghiêm trọng ở thanh thiếu niên. Các cập nhật này dự kiến được triển khai từ tháng 10/2025.

Không dừng lại ở đó, OpenAI đang hợp tác với các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác giữa con người với máy tính để xây dựng thêm các giải pháp bảo vệ trong tương lai, trong đó có những công cụ quản lý chuyên biệt dành cho phụ huynh.

Hiện ChatGPT ghi nhận hơn 700 triệu người dùng hàng tuần, được ứng dụng rộng rãi trong học tập, công việc và đời sống gia đình, qua đó khẳng định vị thế là một trong những nền tảng AI phổ biến nhất toàn cầu.

Song song với các tính năng mới, OpenAI cũng sẽ triển khai cơ chế xử lý đặc biệt, tự động chuyển các cuộc trò chuyện nhạy cảm sang mô hình phân tích chuyên sâu được huấn luyện kỹ hơn về quy chuẩn an toàn, nhằm giảm thiểu rủi ro.

Một điểm đáng chú ý khác là hệ thống sẽ gửi thông báo trực tiếp đến phụ huynh khi phát hiện con em họ rơi vào tình trạng “căng thẳng nghiêm trọng”, tính năng được kỳ vọng mang lại sự yên tâm cho nhiều gia đình.

OpenAI khẳng định, dù nhận được tư vấn từ nhiều chuyên gia, công ty vẫn là đơn vị chịu trách nhiệm cuối cùng cho mọi quyết định sản phẩm và chính sách. Doanh nghiệp cũng cam kết sẽ tiếp tục bổ sung thêm nhiều biện pháp an toàn trong thời gian tới.

Dương Uyển Nhi - nguoiquansat.vn

Theo Thị trường tài chính