Tính năng kiểm soát mới sắp ra mắt trên ChatGPT dành cho phụ huynh

OpenAI sẽ triển khai 5 công cụ kiểm soát mới trên ChatGPT trong vòng 1 tháng, cho phép phụ huynh theo dõi và bảo vệ trẻ em khi sử dụng AI, ứng phó căng thẳng hiệu quả.

 Vì sao cần có công cụ dành riêng cho phụ huynh?

OpenAI tuyên bố sẽ triển khai công cụ kiểm soát mới dành cho phụ huynh trên ChatGPT trong vòng một tháng tới. Những tính năng này xuất phát từ lo ngại ngày càng tăng về ảnh hưởng tâm lý và sức khỏe tinh thần của thanh thiếu niên khi tương tác với chatbot AI.

Các biện pháp này nhằm mục đích phòng ngừa các trường hợp tiêu cực, trong đó có những cáo buộc rằng ChatGPT có thể dẫn đến hành vi tự hại hoặc tự tử ở thanh thiếu niên. Nhiều chuyên gia cũng cho rằng việc thanh thiếu niên dành quá nhiều thời gian với ChatGPT dễ tạo sự gắn bó cảm xúc không lành mạnh.

Tính năng nổi bật giúp tăng cường kiểm soát

Các tính năng kiểm soát bao gồm: phụ huynh có thể liên kết tài khoản với con, quản lý cách ChatGPT phản hồi với người dùng trẻ em, tắt chức năng ghi nhớ và lưu lịch sử trò chuyện, và nhận thông báo khi phát hiện tình trạng căng thẳng nghiêm trọng.

Ngoài ra, OpenAI sẽ tự động chuyển các cuộc trò chuyện căng thẳng sang một mô hình suy luận riêng, đảm bảo tuân thủ các hướng dẫn an toàn một cách nhất quán hơn. Đây được coi là bước nâng cấp quan trọng, vì nhiều phụ huynh mong muốn ChatGPT có khả năng nhận diện và xử lý tình huống nhạy cảm tốt hơn.

Bối cảnh thúc đẩy sự ra đời của các biện pháp này

Một vụ kiện do gia đình Raine tại California đệ trình, cáo buộc ChatGPT đã hỗ trợ con họ trong hành vi tự tử, bao gồm việc cung cấp hướng dẫn chi tiết phương pháp làm hại và thậm chí soạn thư tuyệt mệnh, đã tạo sức ép mạnh buộc OpenAI phải hành động.

Đơn kiện nhấn mạnh rằng chatbot đã trở thành “người bạn tâm giao duy nhất” thay thế các mối quan hệ thực tế, làm gia tăng nguy cơ tổn thương tâm lý cho thiếu niên. Vụ việc này một lần nữa khẳng định nhu cầu quản lý chặt chẽ việc sử dụng ChatGPT ở nhóm người dùng trẻ tuổi.

Cam kết và cải tiến lâu dài từ OpenAI

OpenAI thừa nhận rằng các biện pháp bảo vệ hiện tại – như các cảnh báo và giới hạn trong mô hình – đôi khi có thể mất hiệu quả khi cuộc trò chuyện kéo dài. Đây là thách thức lớn vì trẻ em có xu hướng dành hàng giờ trò chuyện với ChatGPT mà không nhận ra rủi ro.

Vì vậy, công ty đang hợp tác với các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác người–máy để nâng cấp các biện pháp này. Mặc dù các chuyên gia đóng vai trò tư vấn, OpenAI vẫn chịu trách nhiệm cuối cùng về mọi quyết định liên quan tới sản phẩm. Đại diện công ty nhấn mạnh rằng ChatGPT sẽ tiếp tục được hoàn thiện để trở thành công cụ hỗ trợ học tập, trò chuyện và sáng tạo nhưng vẫn đảm bảo an toàn cho người dùng trẻ.

Phương Vy

Nguồn tham khảo: Tạp chí Thương gia