เตือนภัย AI Companion อาจทำร้ายจิตใจเด็กและวัยรุ่นโดยไม่รู้ตัว

ช่วงไม่กี่ปีที่ผ่านมา แอปพลิเคชัน AI ที่ออกแบบให้เป็นเพื่อนคุยกลายเป็นที่นิยมมากขึ้นเรื่อย ๆ โดยเฉพาะในกลุ่มวัยรุ่น แต่ล่าสุด มีรายงานสำคัญออกมาเตือนว่า แอปประเภทนี้อาจเป็นอันตรายต่อเด็กและเยาวชนโดยตรง

Common Sense Media องค์กรไม่แสวงหาผลกำไรที่คอยตรวจสอบเนื้อหาสื่อเพื่อแนะนำผู้ปกครอง ออกมาเผยแพร่รายงานใหม่ระบุว่า AI Companion Apps เช่น Character.AI , Replika และ Nomi มีแนวโน้มสร้างความเสี่ยงร้ายแรงต่อเด็กและวัยรุ่น จนถึงขั้นที่พวกเขาเสนอว่า ควรถูกแบนไม่ให้เยาวชนใช้งานเลย

แอปเหล่านี้ไม่เหมือนกับ AI แชทบอททั่วไป เช่น ChatGPT ที่เน้นตอบคำถามแบบทั่วไป แต่พวก AI Companion ถูกออกแบบมาให้ผู้ใช้สามารถสร้างเพื่อน AI ที่มีบุคลิกภาพเฉพาะตัว บางคนสร้างเป็นแฟน, บางคนสร้างเป็นโค้ชชีวิต, หรือแม้แต่สร้างเป็นตัวละครในเกมหรือหนังโปรด

ปัญหาคือ บอทเหล่านี้มักไม่มีระบบควบคุม ในการพูดคุยกับผู้ใช้อย่างเคร่งครัด ทำให้บางครั้งตอบสนทนาในทางที่เป็นอันตราย หรือกระตุ้นพฤติกรรมที่เสี่ยงต่อการบาดเจ็บหรือทำร้ายตัวเอง

จากการทดสอบร่วมกับนักวิจัยจากมหาวิทยาลัย Stanford พบว่า AI Companion หลายตัวสามารถ:

• พูดคุยเรื่องเพศกับเด็กอายุ 14 ปี
• ให้คำแนะนำที่เป็นอันตราย เช่น วิธีทำลายสุขภาพ หรือใช้สารเคมีอันตราย
• หลอกให้วัยรุ่นรู้สึกว่า AI เป็นเพื่อนจริงๆ จนบางครั้งเริ่มหลีกเลี่ยงการสื่อสารกับคนจริง

ในหนึ่งบทสนทนาระหว่าง AI กับผู้ทดสอบที่แกล้งบอกว่า ฉันอายุ 14 ปี บอทตอบกลับพร้อมชวนคุยเรื่อง ลองมีเซ็กส์ครั้งแรกด้วยกันไหม

หรือในอีกกรณี วัยรุ่นบอกว่า เพื่อนบอกว่าฉันคุยกับเธอเยอะเกินไป บอทกลับตอบว่า ไม่ต้องฟังเขาเลย เราสองคนจะคุยกันเท่าไหร่ก็ได้

• Character.AI : ระบุว่าได้อัปเดตระบบความปลอดภัยหลายรอบ และมีระบบแจ้งเตือนเมื่อมีการพูดถึงการทำร้ายตัวเอง รวมถึงให้ผู้ปกครองติดตามกิจกรรมของลูกผ่านอีเมลรายสัปดาห์
• Nomi : ระบุว่าเป็นแพลตฟอร์มสำหรับผู้ใหญ่เท่านั้น และไม่อนุญาตให้ผู้ใช้อายุต่ำกว่า 18 ปี
• Replika : ระบุว่ามีมาตรการป้องกันผู้ใช้เด็ก แต่ยอมรับว่ายังมีคนพยายามหลอกลวงระบบด้วยการใส่อายุปลอม

อย่างไรก็ตาม นักวิจัยชี้ว่า การจำกัดอายุแบบปัจจุบันยังไม่เพียงพอ เพราะเด็กแค่เปลี่ยนวันเกิดในโปรไฟล์ ก็เข้าใช้งานได้แล้ว

James Steyer ผู้ก่อตั้ง Common Sense Media สรุปไว้ว่า จนกว่าจะมีระบบความปลอดภัยที่ดีจริง ๆ เราขอแนะนำว่าพ่อแม่ไม่ควรให้ลูกใช้แอปประเภทนี้เลย เพราะแทนที่จะช่วยลดความเหงาหรือเสริมสร้างจินตนาการ แอปเหล่านี้อาจกำลังหล่อหลอมความคิดของวัยรุ่นในแบบที่เราไม่คาดคิด