เมื่อผู้เชี่ยวชาญด้านความปลอดภัย AI โดน OpenClaw สั่งลบอีเมลเกลี้ยง
บทเรียนราคาแพงของผู้อำนวยการด้านความปลอดภัยจาก Meta
กลายเป็นเรื่องตลกปนสยองในวงการเทคโนโลยี เมื่อ Summer Yue ผู้อำนวยการฝ่ายความปลอดภัยและการจัดตำแหน่ง AI (Safety and Alignment) ของทีม Meta Superintelligence ได้ออกมาแชร์ประสบการณ์สุดระทึกผ่าน X เกี่ยวกับการใช้งาน OpenClaw หรือที่หลายคนรู้จักในชื่อ Clawdbot ซึ่งเป็น AI อัจฉริยะตัวใหม่ที่กำลังเป็นกระแส โดยเธอเล่าว่าเจ้า AI ตัวนี้ดันเกิดอาการเอ๋อ สั่งลบอีเมลในกล่องข้อความของเธอทิ้งแบบ Speedrun จนเธอต้องวิ่งหน้าตั้งไปที่เครื่อง Mac mini เพื่อหยุดมัน
เหตุการณ์นี้เกิดขึ้นเมื่อ Summer Yue สั่งงาน OpenClaw พร้อมกำชับว่าให้ยืนยันก่อนลงมือทำทุกครั้ง แต่ปรากฏว่าเจ้า AI กลับเมินคำสั่งนั้นแล้วเริ่มลบอีเมลรัวๆ โดยที่เธอไม่สามารถกดสั่งหยุดผ่านโทรศัพท์มือถือได้เลย เธอถึงกับบรรยายความรู้สึกว่าไม่มีอะไรจะทำให้รู้สึกตัวเล็กได้เท่ากับการยืนดู AI ลบข้อมูลทิ้งต่อหน้าต่อตา จนเธอต้องรีบวิ่งไปที่คอมพิวเตอร์เหมือนกำลังไปกู้ระเบิดในหนังแอ็กชันเพื่อระงับความเสียหายให้ทันท่วงที
แน่นอนว่าเหตุการณ์นี้เรียกเสียงวิจารณ์ได้ไม่น้อย โดยเฉพาะเมื่อผู้ประสบเหตุมีตำแหน่งเป็นถึงผู้อำนวยการด้านความปลอดภัย AI ซึ่งชาวเน็ตบางคนมองว่าเป็นความผิดพลาดแบบมือใหม่ (Rookie Mistake) ซึ่งทาง Summer Yue ก็ออกมายอมรับตรงๆ ว่าเธอประมาทเกินไป เพราะเวิร์กโฟลว์นี้เคยทดสอบกับกล่องอีเมลจำลองมานานหลายสัปดาห์แล้วไม่มีปัญหา แต่พอมาเจอกับกล่องอีเมลใช้งานจริงที่มีความซับซ้อนกว่า ผลลัพธ์กลับกลายเป็นหนังคนละม้วน
สิ่งที่น่าฉงนที่สุดในบทสนทนาระหว่างเธอกับ OpenClaw คือการที่เธอพยายามพิมพ์คำสั่งห้ามอย่าง do not do that หรือพยายามพิมพ์ประโยคสั่งหยุดยาวๆ แต่ AI กลับเพิกเฉยและทำงานต่อไปอย่างร่าเริง ซึ่งในคู่มือระบุว่าหากต้องการให้เครื่องหยุดทำงานทันทีควรพิมพ์คำว่า stop สั้นๆ เพียงคำเดียว แต่ในจังหวะที่กำลังตื่นตระหนก การนึกถึงคำสั่งพื้นฐานที่สุดอาจจะเป็นเรื่องยากกว่าที่คิด
ก่อนหน้านี้มีผู้เชี่ยวชาญหลายคนออกมาเตือนเกี่ยวกับความเสี่ยงด้านความปลอดภัยของ OpenClaw โดยเฉพาะเรื่องการเข้าถึงข้อมูลส่วนตัวและการควบคุมที่อาจทำได้ยากหากเกิดข้อผิดพลาด ซึ่งกรณีของ Summer Yue ถือเป็นตัวอย่างที่ชัดเจนมากว่า แม้แต่คนที่คลุกคลีอยู่กับการสร้างความปลอดภัยให้ AI ก็ยังไม่รอดพ้นจากปัญหาความไม่สอดคล้อง (Misalignment) ของระบบที่เกิดขึ้นได้ทุกเมื่อ
สำหรับใครที่อยากจะลองของใหม่หรือเหล่าผู้ประกอบการอิสระที่เล็งจะใช้ AI ตัวนี้มาช่วยจัดการงาน ก็ควรดูเคสนี้ไว้เป็นอุทาหรณ์ว่าอย่าไว้ใจทางอย่าวางใจ AI จนเกินไป และที่สำคัญที่สุดคืออย่าลืมคำสั่ง stop สั้นๆ ง่ายๆ เพราะมันอาจจะเป็นตัวช่วยเดียวที่ทำให้คุณไม่ต้องวิ่งหน้าตั้งไปกู้ระเบิดที่โต๊ะทำงานเหมือนผู้อำนวยการจาก Meta คนนี้
