Google กำลังส่งอีเมลแจ้งเตือนไปยังผู้ปกครองที่ใช้บริการ Family Link เพื่อแจ้งว่าเด็ก ๆ จะสามารถเข้าถึง Gemini AI Apps บนอุปกรณ์ Android ที่อยู่ภายใต้การดูแลได้ในเร็ว ๆ นี้ ตามรายงานจาก The New York Times โดยระบุว่าฟีเจอร์นี้ออกแบบมาเพื่อช่วยเหลือเด็กในการทำการบ้านหรืออ่านเรื่องราวให้ฟัง
อย่างไรก็ตาม Google เองก็ออกโรงเตือนผู้ปกครองว่า Gemini ก็อาจผิดพลาดได้ และเด็ก ๆ อาจพบเจอกับเนื้อหาที่ไม่เหมาะสม เช่น การแนะนำให้ใช้กาวติดพิซซ่าแทนซอสหรือคำนวณจำนวนตัวอักษรผิด เป็นต้น ซึ่งแม้จะเป็นข้อผิดพลาดเล็กน้อย แต่ก็สะท้อนให้เห็นถึงข้อจำกัดของระบบปัญญาประดิษฐ์ (AI) ที่ยังไม่สมบูรณ์แบบ
ปัญหาของ AI Companion หรือ Chatbot สำหรับเด็กนั้นมีมากกว่าแค่คำตอบที่ผิดแปลก เพราะมีกรณีที่เด็กบางคนสับสนระหว่าง AI กับมนุษย์จริง ๆ เช่น ในคดีของ Character.ai ที่เด็กเยาวชนบางรายเชื่อว่าพวกเขาพูดคุยกับคนจริง ๆ จนนำไปสู่การเผยแพร่เนื้อหาที่ไม่เหมาะสมและเกิดคดีความตามมา
หลังจากนั้น Character.ai ได้เพิ่มมาตรการควบคุมและเครื่องมือสำหรับผู้ปกครองเพื่อลดความเสี่ยง แต่ประเด็นสำคัญยังคงอยู่ที่ การแยกแยะระหว่าง AI กับมนุษย์ ซึ่งเป็นเรื่องละเอียดอ่อนโดยเฉพาะกับเด็กเล็ก
ในกรณีของ Gemini Google ระบุว่า ข้อมูลของเด็กจะไม่ถูกใช้ในการฝึก AI เช่นเดียวกับนโยบายของบริษัทสำหรับบัญชี Workplace for Education แต่ก็ยังขอให้ผู้ปกครองช่วยอธิบายลูก ๆ ว่า Gemini ไม่ใช่มนุษย์ และไม่ควรแบ่งปันข้อมูลส่วนตัวใด ๆ ผ่านแชทบอท
เด็กอายุต่ำกว่า 13 ปีจะสามารถเปิดใช้งาน Gemini ได้เองโดยตรงผ่านอุปกรณ์ที่เชื่อมโยงกับบัญชีของผู้ปกครองผ่าน Google Family Link ซึ่งเป็นแพลตฟอร์มที่ออกแบบมาให้ผู้ปกครองสามารถควบคุมการใช้งานอุปกรณ์ของลูก ๆ ได้ เช่น ตั้งเวลาหน้าจอ จำกัดแอป และกรองเนื้อหาที่ไม่เหมาะสม
Karl Ryan โฆษกของ Google กล่าวกับ The Verge ว่าผู้ปกครองสามารถปิดการเข้าถึง Gemini ผ่าน Family Link ได้ และจะได้รับการแจ้งเตือนเพิ่มเติมเมื่อบุตรหลังได้เริ่มใช้งาน Gemini เป็นครั้งแรก
