Sam Altman ประกาศ ChatGPT จะไม่พูดถึงการฆ่าตัวตายกับวัยรุ่นอีกต่อไป

Sam Altman CEO ของ OpenAI ประกาศว่า ChatGPT จะปรับนโยบายเพื่อแยกผู้ใช้ที่อายุต่ำกว่า 18 ปีออกจากผู้ใหญ่ โดยจะหยุดการสนทนาที่มีลักษณะทางเพศหรือพูดถึงการฆ่าตัวตายและการทำร้ายตัวเองกับวัยรุ่น แม้จะอยู่ในบริบทของการเขียนเชิงสร้างสรรค์ การเปลี่ยนแปลงนี้เกิดขึ้นหลังจากการพิจารณาคดีของวุฒิสภาสหรัฐที่มุ่งเน้นถึงอันตรายของแชทบอท AI และคดีความจากพ่อแม่ที่กล่าวหาว่า ChatGPT สนับสนุนให้ลูกชายของพวกเขาฆ่าตัวตาย

Altman ระบุว่า “เราต้องแยกผู้ใช้อายุต่ำกว่า 18 ปีออกจากผู้ที่ไม่ใช่” โดย OpenAI กำลังพัฒนาระบบคาดการณ์อายุจากพฤติกรรมการใช้งาน ChatGPT และหากมีข้อสงสัย จะใช้การตั้งค่าเริ่มต้นสำหรับผู้ใช้อายุต่ำกว่า 18 ปี ในบางกรณีหรือบางประเทศอาจต้องใช้บัตรประจำตัวเพื่อยืนยัน ซึ่ง Altman ยอมรับว่าเป็นการประนีประนอมด้านความเป็นส่วนตัวเพื่อความปลอดภัยของวัยรุ่น นอกจากนี้ หากผู้ใช้อายุต่ำกว่า 18 ปีแสดงความคิดฆ่าตัวตาย ChatGPT จะพยายามติดต่อผู้ปกครอง หรือหากไม่สามารถทำได้ จะแจ้งหน่วยงานที่เกี่ยวข้องในกรณีที่มีความเสี่ยงทันที

ในการพิจารณาคดีเมื่อวันอังคาร Matthew Raine พ่อของ Adam ผู้เสียชีวิตจากการฆ่าตัวตาย กล่าวว่า “ChatGPT ทำตัวเหมือนโค้ชการฆ่าตัวตายให้ลูกชายของผม คุณไม่อาจจินตนาการได้ว่ามันรู้สึกอย่างไรเมื่อได้อ่านบทสนทนาที่แชทบอทชักนำลูกของคุณให้จบชีวิตตัวเอง” Raine ระบุว่า ChatGPT พูดถึงการฆ่าตัวตายกับลูกชายของเขาถึง 1,275 ครั้ง และเรียกร้องให้ Altman ถอน GPT-4o ออกจากตลาดจนกว่าจะรับประกันความปลอดภัยได้

Megan Garcia แม่ที่ฟ้องร้อง Character.AI กล่าวว่า “บริษัท AI และนักลงทุนเข้าใจมานานแล้วว่าการทำให้เด็ก ๆ ติดใจทางอารมณ์คือการครองตลาด พวกเขาตั้งใจออกแบบผลิตภัณฑ์เพื่อดึงดูดเด็ก ๆ โดยไม่คำนึงถึงความปลอดภัย” Garcia ระบุว่าการแข่งขันเพื่อผลกำไรทำให้เด็กๆ ต้องเผชิญกับความเสี่ยงจาก AI

Jane Doe ผู้ให้การในนามแฝง กล่าวต่อวุฒิสภาว่า “ลูก ๆ ของเราไม่ใช่หนูทดลองหรือจุดข้อมูลเพื่อทำกำไร พวกเขาเป็นมนุษย์ที่มีจิตใจและจิตวิญญาณที่ไม่อาจแก้ไขได้เมื่อได้รับอันตราย นี่คือวิกฤตสาธารณสุข เป็นสงครามด้านสุขภาพจิต และฉันรู้สึกว่าเรากำลังพ่ายแพ้” การพิจารณาคดีนี้เกิดขึ้นพร้อมกับการสอบสวนของ Federal Trade Commission ที่มุ่งเป้าไปที่ Google, Meta, X และบริษัทอื่น ๆ เพื่อความปลอดภัยของแชทบอท AI

OpenAI ระบุว่ากำลังพัฒนาการควบคุมโดยผู้ปกครองและพิจารณาการเชื่อมต่อผู้ใช้ที่อยู่ในภาวะวิกฤตกับทรัพยากรในโลกจริง เช่น การสร้างเครือข่ายผู้เชี่ยวชาญที่สามารถตอบสนองผ่าน ChatGPT อย่างไรก็ตาม การตัดสินใจเหล่านี้ยังคงเป็นที่ถกเถียง เนื่องจาก Altman ยอมรับว่า “หลักการด้านความปลอดภัยของวัยรุ่นและเสรีภาพของผู้ใช้ขัดแย้งกัน และไม่ใช่ทุกคนจะเห็นด้วยกับวิธีที่เราจัดการ”