Chatbot AI mới của Snapchat gây ra tình trạng báo động cho thanh thiếu niên và phụ huynh

Chưa đầy vài giờ sau khi Snapchat triển khai chatbot My AI cho tất cả người dùng, Lyndsi Lee, một bà mẹ đến từ East Prairie, Missouri, đã nói với con gái 13 tuổi của mình rằng hãy tránh xa tính năng này.

Lee, hiện đang làm việc tại một công ty phần mềm, cho biết: “Đây là một giải pháp tạm thời cho đến khi tôi hiểu biết nhiều thêm về tính năng này để có thể hướng dẫn cho con gái mình”. Cô ấy lo lắng về cách My AI ảnh hưởng đến những người dùng trẻ tuổi như con gái cô ấy trên Snapchat.

Tương tự như ChatGPT, công cụ này có thể đưa ra các đề xuất, trả lời câu hỏi và trò chuyện với người dùng. Nhưng phiên bản của Snapchat có một số điểm khác biệt chính: người dùng có thể tùy chỉnh tên của chatbot, thiết kế hình đại diện và đưa tính năng vào cuộc trò chuyện với bạn bè.

Công cụ mới này đang phải đối mặt với phản ứng dữ dội từ các bậc cha mẹ và từ một số người dùng Snapchat. Những người phản đối đang tấn công ứng dụng bằng những đánh giá không tốt trong cửa hàng ứng dụng và những lời chỉ trích trên mạng xã hội về những lo ngại về quyền riêng tư và lo sợ khi không thể xóa tính năng này khỏi ứng dụng.

Trong một bức thư gửi cho các CEO của Snap và các công ty công nghệ khác vào tháng trước, Thượng nghị sĩ đảng Dân chủ Michael Bennet đã nêu lên những lo ngại về các tương tác mà chatbot có với những người dùng trẻ tuổi. Đặc biệt, ông trích dẫn các báo cáo rằng chatbot có thể cung cấp cho trẻ những gợi ý về cách nói dối cha mẹ.

Xem thêm Cải cách hành chính công ở một huyện Lai Châu, lợi ích của ứng dụng công nghệ thông tin, chữ ký số

Trong một bài đăng trên blog vào tuần trước, công ty cho biết: “My AI cần thêm thời gian để trở nên hoàn hảo nhưng chúng tôi đã đạt được nhiều tiến bộ”.

PHẢN ỨNG DỮ DỘI CỦA NGƯỜI DÙNG

Người dùng Snapchat đã lên tiếng về mối quan tâm của họ đến tính năng mới được tích hợp này. Một người dùng chia sẻ rằng sự tương tác của anh ấy là “đáng sợ” sau khi anh ấy nói rằng chatbot nói dối về việc không biết vị trí của mình. Sau khi người dùng làm dịu cuộc trò chuyện, anh ấy cho biết chatbot đã tiết lộ chính xác rằng anh ấy sống ở Colorado.

Những người dùng khác đã thể hiện mối quan tâm về cách công cụ hiểu, tương tác và thu thập thông tin từ hình ảnh. “Tôi đã chụp một bức ảnh…Chatbot đã trả lời là ‘đôi giày đẹp’ và hỏi những người có trong ảnh” một người dùng Snapchat chia sẻ.

Snapchat chia sẻ với CNN rằng họ sẽ tiếp tục cải thiện chatbot này dựa trên phản hồi của cộng đồng và họ đang nỗ lực thiết lập thêm các biện pháp bảo vệ để giữ an toàn cho người dùng. Công ty cũng cho biết tương tự như các công cụ khác của họ, người dùng không phải tương tác với My AI nếu họ không muốn.

Tuy nhiên, My AI không thể bị xóa khỏi nguồn cấp dữ liệu trò chuyện, trừ khi người dùng đăng ký dịch vụ cao cấp hàng tháng Snapchat+. Một số thanh thiếu niên cho biết họ đã chọn thanh toán phí Snapchat+ $3,99 để tắt công cụ này.

Xem thêm Công nghệ là yếu tố cốt lõi để cạnh tranh | Doanh nhân

Không phải tất cả người dùng đều không thích tính năng này. Một người dùng đã chia sẻ trên Facebook rằng cô ấy nhờ My AI giúp làm bài tập về nhà “Chatbot đã trả lời đúng tất cả các câu hỏi”. Một người khác cho biết cô ấy dựa vào tính năng để được an ủi và cho lời khuyên. “Bạn có thể thay đổi hình đại diện cho công cụ và thật ngạc nhiên khi chatbot đưa ra lời khuyên thực sự tuyệt vời cho một số tình huống thực tế. Tôi thích sự hỗ trợ mà công cụ này mang lại”.

CÂN NHẮC VỀ VIỆC THANH THIẾU NIÊN SỬ DỤNG CHATBOT

ChatGPT được đào tạo dựa trên kho dữ liệu trực tuyến khổng lồ. Trước đây ChatGPT đã bị chỉ trích vì truyền bá thông tin không chính xác, phản hồi người dùng theo cách mà họ có thể thấy không phù hợp và tạo điều kiện cho sinh viên gian lận. Nhưng việc tích hợp công cụ của Snapchat có nguy cơ làm tăng thêm một số vấn đề mới.

Alexandra Hamlet, một nhà tâm lý học lâm sàng ở thành phố New York cho biết cha mẹ của một số bệnh nhân của cô đã bày tỏ lo ngại khi con họ tương tác với công cụ của Snapchat. Ngoài ra còn có mối lo ngại xung quanh việc chatbot đưa ra lời khuyên về sức khỏe tâm thần.

Cô ấy nói: “Nếu một thanh thiếu niên đang có tâm trạng tiêu cực và không ý thức thức được bản thân cần trở nên tốt hơn, họ có thể tìm cách trò chuyện với một chatbot mà họ biết sẽ khiến họ cảm thấy tồi tệ hơn. Theo thời gian, những tương tác như thế này có thể làm xói mòn ý thức về giá trị của thanh thiếu niên, mặc dù họ biết rằng họ đang thực sự nói chuyện với một chatbot”.

Xem thêm Cốc Cốc tung công cụ AI Chat dựa trên mô hình Chat GPT: Sẵn

Hiện tại, trách nhiệm của cha mẹ là bắt đầu các cuộc trao đổi với con cái họ về các phương pháp tốt nhất để giao tiếp với AI, đặc biệt là khi các công cụ bắt đầu xuất hiện trong các ứng dụng, dịch vụ và trở nên phổ biến hơn.

Sinead Bovell, người sáng lập WAYE, một công ty khởi nghiệp giúp cho tương lai của giới trẻ bằng các công nghệ tiên tiến, cho biết các bậc cha mẹ cần nói rõ rằng “chatbot không phải là bạn của họ”.

Cô ấy nói: “Chatbot cũng không phải là nhà trị liệu hay cố vấn đáng tin cậy của bạn và bất kỳ ai tương tác với tính năng đều cần phải hết sức thận trọng, đặc biệt là thanh thiếu niên, những người trong độ tuổi dễ tin vào những gì người khác nói”.

“Các bậc cha mẹ nên nói chuyện với con cái của họ ngay bây giờ về việc chúng không nên chia sẻ bất cứ điều gì cá nhân với một chatbot”.

Nguồn: VnEconomy