บริษัทพลังงานแสงอาทิตย์ในมินนิโซตาอย่าง Wolf River Electric ถึงกับต้องฟ้อง Google หลังจากที่ฟีเจอร์ AI Overviews ของบริษัทปล่อยข้อมูลผิด ๆ ออกมา จนกระทบความเชื่อมั่นของลูกค้าและส่งผลให้บริษัทเสียรายได้นับแสนดอลลาร์
Nicholas Kasprowicz ทนายความของ Wolf River ระบุว่า การฟ้องครั้งนี้ไม่ใช่แค่ปกป้องชื่อเสียงของเรา แต่เพื่อเรียกร้องความรับผิดชอบจากบริษัทใหญ่ที่ใช้ AI แบบขาดการควบคุม โดยเขายื่นฟ้องในศาลรัฐเมื่อเดือนมีนาคม และตอนนี้คดีถูกย้ายไปอยู่ศาลกลางแล้ว หลัง Google ขอเปลี่ยนแนวทางพิจารณา
เหตุการณ์เกิดขึ้นเมื่อใครก็ตามที่ค้นหาคำว่า Wolf River Electric lawsuit ใน Google Search จะเจอกับคำตอบจาก AI ที่บอกว่าบริษัทกำลังโดนฟ้องโดยอัยการสูงสุดของรัฐมินนิโซตา กล่าวหาว่า หลอกขายระบบแสงอาทิตย์ด้วยการโกหกลูกค้า และ แอบซ่อนค่าธรรมเนียมไว้ในสัญญา ซึ่งทั้งหมดนี้ไม่มีมูลความจริงเลย
ที่สำคัญ AI ยังอ้างอิงแหล่งข้อมูลถึง 4 แห่ง รวมถึงหนังสือพิมพ์ Star Tribune, Angie’s List และประกาศจากรัฐ แต่แหล่งเหล่านี้ไม่มีใครพูดถึง Wolf River เลย แปลว่า AI ของ Google สรุปข้อมูลผิดพลาดแบบหนัก ๆ จนหลายคนเรียกว่า hallucination หรือสร้างข้อมูลเท็จออกมา
Google ตอบโต้ในเอกสารทางกฎหมายว่า AI บางครั้งอาจผิดพลาดได้บ้าง แต่เราก็แก้ไขแล้ว และมองว่าเป็นเพียง ข้อผิดพลาดเล็กน้อย ขณะที่พวกเขากำลังสร้างเทคโนโลยีเพื่ออนาคต แต่สำหรับบริษัทขนาดกลางอย่าง Wolf River การถูก AI ก่อความเสียหายเช่นนี้ ทำให้ลูกค้าบางคนยกเลิกสัญญามูลค่ากว่า $150,000
อย่างไรก็ตาม นี่อาจเป็นคดีแรก ๆ ที่จะกำหนดบรรทัดฐานใหม่เรื่อง AI และการหมิ่นประมาท เพราะ Eugene Volokh ศาสตราจารย์จาก UCLA Law ชี้ว่า Wolf River มีหลักฐานที่ชัดเจนที่สุดเท่าที่เคยเห็น และไม่ใช่บุคคลสาธารณะ ทำให้ไม่จำเป็นต้องพิสูจน์ว่า Google มีเจตนาเลวร้าย แค่แสดงว่า ละเลยในการตรวจสอบข้อมูล ก็พอ
Wolf River ต้องการค่าเสียหายระหว่าง $110–210 ล้านดอลลาร์ ส่วนหนึ่งมาจากผลกระทบทางธุรกิจที่เกิดขึ้นจริง
