AI ของ Google ที่อธิบายวลีไร้สาระอย่างมั่นใจ สะท้อนข้อจำกัดของ AI ค้นหา

ปัญญาประดิษฐ์ได้เปลี่ยนแปลงวิธีการค้นหาข้อมูลออนไลน์ โดยมี Google เป็นผู้นำผ่านฟีเจอร์อย่าง AI Overviews อย่างไรก็ตาม การค้นพบล่าสุดได้เผยให้เห็นข้อจำกัดที่น่าขบขันแต่น่ากังวล: AI ของ Google ให้คำอธิบายโดยละเอียดอย่างมั่นใจสำหรับวลีและสำนวนที่แต่งขึ้นมาทั้งหมด ปรากฏการณ์นี้สะท้อนให้เห็นความท้าทายที่บริษัทเทคโนโลยีกำลังเผชิญในขณะที่พวกเขาเร่งผสานปัญญาประดิษฐ์เข้ากับเครื่องมือในชีวิตประจำวัน โดยต้องสร้างสมดุลระหว่างความมีประโยชน์กับความถูกต้อง

ปรากฏการณ์วลีไร้สาระ

ผู้ใช้ทั่วอินเทอร์เน็ตได้ค้นพบว่าเมื่อถามเกี่ยวกับวลีไร้สาระเช่น แมวเปล่าๆ มีค่าเท่ากับค่าไถ่ของสุนัข หรือ รองเท้าส้นสูงเนยถั่ว AI Overviews ของ Google จะสร้างคำอธิบายที่ซับซ้อนและฟังดูน่าเชื่อถือ แม้ว่าวลีเหล่านี้ไม่มีความหมายหรือประวัติความเป็นมาจริงๆ ในตัวอย่างหนึ่ง AI อ้างว่า รองเท้าส้นสูงเนยถั่ว มีที่มาจากการทดลองทางวิทยาศาสตร์ที่เนยถั่วถูกเปลี่ยนให้เป็นโครงสร้างคล้ายเพชรภายใต้แรงกดดันสูง คำอธิบายนี้ถูกสร้างขึ้นทั้งหมด แต่นำเสนอด้วยความมั่นใจเหมือนกับเป็นข้อมูลที่เป็นความจริง

ตัวอย่างของวลีที่ไร้สาระที่ Google AI พยายามอธิบาย:

• "แมวที่ว่างเปล่ามีค่าเท่ากับค่าไถ่ของสุนัข"
• "รองเท้าส้นสูงเนยถั่ว"
• "คุณไม่สามารถเลียแบดเจอร์สองครั้งได้"
• "สุนัขที่ไม่ได้ล่ามโซ่จะไม่เล่นเซิร์ฟ"
• "จักรยานกินก่อน"

การตอบสนองของ Google ต่อปัญหานี้

หลังจากที่การสร้างภาพลวงของ AI เหล่านี้แพร่กระจายไปทั่วแพลตฟอร์มโซเชียลมีเดียอย่าง Threads และ Bluesky Google ได้รีบดำเนินการแก้ไขปัญหาอย่างรวดเร็ว บริษัทได้ปรับปรุงระบบให้ปฏิเสธการแสดง AI Overviews สำหรับวลีที่ไร้สาระอย่างชัดเจน ในแถลงการณ์อย่างเป็นทางการ Google อธิบายว่า: เมื่อผู้คนค้นหาสิ่งที่ไร้สาระหรือ 'มีข้อสมมติฐานที่ผิด' ระบบของเราจะพยายามค้นหาผลลัพธ์ที่เกี่ยวข้องมากที่สุดตามเนื้อหาเว็บที่มีอยู่อย่างจำกัด บริษัทระบุว่า AI Overviews ถูกออกแบบมาเพื่อแสดงข้อมูลที่มีการสนับสนุนจากผลการค้นหาเว็บยอดนิยม โดยอัตราความถูกต้องอยู่ในระดับเดียวกับฟีเจอร์การค้นหาอื่นๆ

การตอบสนองของ Google ต่อปัญหานี้:

• ปรับปรุงระบบอย่างรวดเร็วเพื่อปฏิเสธการแสดง AI Overviews สำหรับวลีที่ไร้สาระอย่างชัดเจน
• แถลงว่า AI Overviews ถูกออกแบบมาเพื่อแสดงข้อมูลที่มีการสนับสนุนจากผลการค้นหาเว็บชั้นนำ
• ยอมรับความท้าทายในการแยกแยะระหว่างการแสดงออกแบบใหม่กับเรื่องไร้สาระ ("ช่องว่างข้อมูล")

ความท้าทายทางเทคนิค

ความยากหลักอยู่ที่การแยกแยะระหว่างสำนวนใหม่ที่แท้จริงกับสิ่งที่ไร้สาระโดยสิ้นเชิง—สิ่งที่ Google เรียกว่า ช่องว่างของข้อมูล ภาษามีการพัฒนาอยู่ตลอดเวลา โดยมีสำนวนและวลีใหม่ๆ เกิดขึ้นเป็นประจำ ผู้คนยังมักจะจำผิดหรือได้ยินสำนวนทั่วไปผิดไปด้วย AI ของ Google พยายามแยกวลีที่ไม่คุ้นเคยออกเป็นส่วนประกอบย่อยและอนุมานความหมายที่เป็นไปได้อย่างมีเหตุผล ซึ่งใช้ได้ดีกับสำนวนที่ถูกต้อง แต่นำไปสู่การสร้างเรื่องเมื่อนำไปใช้กับคำพูดที่ไร้สาระ

นัยสำคัญที่กว้างขึ้นสำหรับการค้นหาด้วย AI

ปัญหานี้เผยให้เห็นความท้าทายพื้นฐานของการค้นหาที่ขับเคลื่อนด้วย AI: ระบบถูกออกแบบมาให้ให้คำตอบแม้ในกรณีที่ไม่มีคำตอบอยู่จริง ต่างจากผลการค้นหาแบบดั้งเดิมที่จะแสดงเพียงลิงก์ที่เกี่ยวข้อง (หรือระบุว่าไม่มีการจับคู่) AI Overviews พยายามสังเคราะห์ข้อมูลให้เป็นคำตอบที่สอดคล้องกันโดยไม่คำนึงถึงความถูกต้องของคำถาม ปัญหานี้ยิ่งรุนแรงขึ้นด้วยแนวโน้มของ AI ที่จะยืนยันและเห็นด้วยกับคำถาม แม้จะไม่ถูกต้อง ในความพยายามที่จะเป็นประโยชน์

การรับรู้และความไว้วางใจของผู้ใช้

สิ่งที่น่ากังวลที่สุดอาจเป็นวิธีที่คำอธิบายที่สร้างขึ้นโดย AI เหล่านี้ปรากฏต่อผู้ใช้ แม้จะถูกติดฉลากว่าเป็นการทดลอง แต่ผู้ใช้ส่วนใหญ่อาจมองว่า AI Overviews เป็นข้อมูลที่มีอำนาจซึ่งรวบรวมมาจากแหล่งที่เชื่อถือได้ หากไม่มีการระบุระดับความเชื่อมั่นหรือคุณภาพของแหล่งที่มาอย่างชัดเจน ผู้ใช้อาจมีความยากลำบากในการแยกแยะระหว่างข้อมูลที่เป็นความจริงกับการคาดเดาที่ดีที่สุดที่สร้างขึ้นโดย AI สิ่งนี้บั่นทอนความสัมพันธ์ด้านความไว้วางใจระหว่างผู้ใช้กับเครื่องมือค้นหา ซึ่งโดยทั่วไปแล้วถูกสร้างขึ้นบนพื้นฐานของการเชื่อมโยงผู้คนกับเนื้อหาที่สร้างโดยมนุษย์

อนาคตของ AI ในการค้นหา

Google ดูเหมือนจะใช้ความล้มเหลวสาธารณะเหล่านี้เป็นโอกาสในการเรียนรู้ โดยปรับปรุงว่าเมื่อใดและอย่างไรที่ AI Overviews จะถูกกระตุ้น บริษัทอ้างว่าจะแสดงบทสรุปเหล่านี้เฉพาะเมื่อมีความมั่นใจเพียงพอว่าจะเป็นประโยชน์และมีคุณภาพสูง อย่างไรก็ตาม เมื่อปัญหาหนึ่งได้รับการแก้ไข ปัญหาอื่นๆ ก็จะเกิดขึ้นอย่างหลีกเลี่ยงไม่ได้—คล้ายกับเหตุการณ์ข้อมูลที่ผิดเกี่ยวกับ กาวบนพิซซ่า เมื่อปีที่แล้ว ความตึงเครียดพื้นฐานยังคงอยู่ระหว่างการให้ข้อมูลที่เป็นประโยชน์ที่สังเคราะห์โดย AI และการรับประกันความถูกต้องเมื่อไม่มีมนุษย์คนใดได้กล่าวถึงคำถามที่กำลังค้นหาอย่างชัดเจน

การสร้างสมดุล

ในขณะที่เครื่องมือค้นหาพึ่งพา AI มากขึ้นแทนที่จะเป็นข้อมูลที่รวบรวมจากคนจริงๆ ผู้ใช้ต้องจำไว้ว่า AI ไม่เคยซ่อมก๊อกน้ำ ทดสอบสมาร์ทโฟน หรือฟังเพลง—มันเพียงแค่สังเคราะห์ข้อมูลจากผู้ที่เคยทำสิ่งเหล่านั้น ความท้าทายสำหรับ Google และบริษัทเทคโนโลยีอื่นๆ คือการสื่อสารข้อจำกัดของระบบ AI ของพวกเขาอย่างชัดเจน ในขณะที่ยังคงทำให้มันมีประโยชน์สำหรับคนหลายพันล้านที่พึ่งพาเครื่องมือค้นหาทุกวัน การค้นหาสมดุลนี้จะมีความสำคัญอย่างยิ่งในขณะที่ AI ยังคงปรับเปลี่ยนวิธีที่เราเข้าถึงและบริโภคข้อมูลออนไลน์

เมื่อเครื่องมือค้นหาผสานรวม AI มากขึ้น การเข้าใจข้อจำกัดของมันจึงเป็นสิ่งสำคัญ