เครื่องมือถอดเสียง Whisper ของ OpenAI กำลังเผชิญกับการวิพากษ์วิจารณ์อย่างรุนแรง หลังพบว่ามีการสร้างเนื้อหาที่ไม่เป็นความจริงในการใช้งานทางการแพทย์ สร้างความกังวลอย่างมากเกี่ยวกับความปลอดภัยของผู้ป่วยและความถูกต้องของข้อมูลในสภาพแวดล้อมด้านการดูแลสุขภาพ
วิกฤตการณ์การสร้างข้อมูลเท็จ
Whisper เครื่องมือถอดเสียงที่ได้รับความนิยมจาก OpenAI ถูกค้นพบว่ามักสร้างเนื้อหาเท็จหรือข้อมูลที่ไม่มีอยู่จริงในการถอดความ แม้ว่า OpenAI จะอ้างว่ามีความแม่นยำระดับเดียวกับมนุษย์ แต่นักวิจัยได้พบอัตราการสร้างเนื้อหาเท็จที่น่าตกใจในการใช้งานหลากหลายรูปแบบ โดยเฉพาะอย่างยิ่งการนำไปใช้ในสภาพแวดล้อมทางการแพทย์ ซึ่งความถูกต้องของการบันทึกข้อมูลมีความสำคัญอย่างยิ่งต่อการดูแลผู้ป่วย
การนำไปใช้ในวงการแพทย์อย่างแพร่หลายแม้มีคำเตือน
แม้จะมีคำเตือนอย่างชัดเจนจาก OpenAI ไม่ให้ใช้ Whisper ในงานที่มีความเสี่ยงสูง แต่ภาคการแพทย์กลับนำเทคโนโลยีนี้ไปใช้อย่างกว้างขวาง บริษัท Nabla ซึ่งเป็นบริษัทร่วมทุนฝรั่งเศส-อเมริกัน ได้นำเครื่องมือที่ใช้ Whisper ไปใช้ในระบบสุขภาพ 40 แห่ง ให้บริการแก่แพทย์กว่า 30,000 คน โดยใช้ถอดเสียงการตรวจรักษาประมาณ 7 ล้านครั้ง และไม่มีวิธีตรวจสอบความถูกต้องเนื่องจากการบันทึกต้นฉบับถูกลบทิ้งด้วยเหตุผลด้านความปลอดภัยของข้อมูล
งานวิจัยเผยอัตราความผิดพลาดที่น่าตกใจ
การศึกษาอิสระหลายชิ้นได้เปิดเผยความรุนแรงของปัญหาการสร้างข้อมูลเท็จของ Whisper นักวิจัยจากมหาวิทยาลัย Michigan พบการสร้างข้อมูลเท็จใน 80% ของการถอดเสียงการประชุมสาธารณะ ขณะที่การวิเคราะห์การถอดความ 26,000 ชิ้นแสดงให้เห็นการเกิดเนื้อหาที่ถูกสร้างขึ้นแทบทุกชิ้น การศึกษาที่น่ากังวลโดยเฉพาะจากมหาวิทยาลัย Cornell และมหาวิทยาลัย Virginia พบว่า 40% ของข้อมูลเท็จที่ถูกสร้างขึ้นอาจเป็นอันตราย รวมถึงการสร้างการรักษาทางการแพทย์ที่ไม่มีอยู่จริงและเนื้อหาความรุนแรงที่ถูกแต่งขึ้น
ผลกระทบด้านความเป็นส่วนตัวและความปลอดภัย
การนำ AI มาใช้ในการถอดเสียงในวงการแพทย์ได้สร้างความกังวลเพิ่มเติมด้านความเป็นส่วนตัว ผู้ป่วยจำนวนมากพบว่าตนเองต้องเผชิญกับแบบฟอร์มยินยอมที่อนุญาตให้แบ่งปันการปรึกษาทางการแพทย์กับผู้ให้บริการภายนอก ซึ่งสร้างคำถามเกี่ยวกับการปกป้องข้อมูลและการรักษาความลับของผู้ป่วย ส่งผลให้ผู้ป่วยบางราย รวมถึง Rebecca Bauer-Kahan สมาชิกสภานิติบัญญัติแห่งรัฐ California ปฏิเสธที่จะลงนามในข้อตกลงดังกล่าว
ผลกระทบต่ออุตสาหกรรมและความกังวลในอนาคต
อิทธิพลของ Whisper ขยายไปไกลเกินกว่าการใช้งานทางการแพทย์ โดยเครื่องมือนี้ถูกผนวกเข้ากับ ChatGPT และแพลตฟอร์มคลาวด์หลักอย่าง Oracle และ Microsoft ด้วยยอดดาวน์โหลดมากกว่า 4.2 ล้านครั้งในเดือนเดียวจาก HuggingFace ทำให้มีความเสี่ยงสูงที่จะเกิดการแพร่กระจายของข้อมูลเท็จ William Saunders วิศวกรอดีตพนักงาน OpenAI แนะนำว่าปัญหาเหล่านี้สามารถแก้ไขได้หากได้รับการจัดลำดับความสำคัญ แต่สถานการณ์ปัจจุบันก่อให้เกิดความเสี่ยงร้ายแรง โดยเฉพาะในสภาพแวดล้อมด้านการดูแลสุขภาพที่มีความสำคัญ