รายงานเตือน: การใช้งาน AI ภายในบริษัทอาจคุกคามประชาธิปไตย

การพัฒนาอย่างรวดเร็วของความสามารถด้านปัญญาประดิษฐ์ได้ก่อให้เกิดความกังวลที่เพิ่มขึ้นเกี่ยวกับการกำกับดูแลและการควบคุม โดยเฉพาะอย่างยิ่งเกี่ยวกับวิธีที่บริษัท AI ชั้นนำนำระบบที่ก้าวหน้าที่สุดของพวกเขามาใช้ภายในองค์กร รายงานใหม่จาก Apollo Research ชี้ให้เห็นถึงสถานการณ์ที่น่าตกใจที่การพัฒนา AI ที่ไม่มีการตรวจสอบเบื้องหลังประตูที่ปิดสนิทอาจนำไปสู่ผลลัพธ์ที่หายนะ รวมถึงความเป็นไปได้ที่จะบ่อนทำลายสถาบันประชาธิปไตย

อันตรายที่ซ่อนอยู่ของการใช้งาน AI ภายในองค์กร

Apollo Research องค์กรไม่แสวงหากำไรในสหราชอาณาจักรที่มุ่งเน้นด้านความปลอดภัยของ AI ได้เผยแพร่รายงานฉบับสมบูรณ์ชื่อ AI Behind Closed Doors: A Primer on the Governance of Internal Deployment รายงานนี้นำโดย Charlotte Stix อดีตหัวหน้าฝ่ายนโยบายสาธารณะของ OpenAI ในยุโรป ได้ระบุช่องว่างสำคัญในการกำกับดูแลวิธีที่บริษัทอย่าง OpenAI, Google และ Anthropic ใช้งานระบบ AI ที่ก้าวหน้าที่สุดภายในองค์กรของตนเอง ในขณะที่การสนทนาสาธารณะมุ่งเน้นไปที่ความเสี่ยงจากภายนอกโดยผู้ไม่หวังดี การวิเคราะห์นี้ชี้ให้เห็นว่าภัยคุกคามที่ใหญ่กว่าอาจอยู่ภายในบริษัทเหล่านี้เอง

ปัญหาวงจรเสริมแรงตัวเอง

รายงานนี้ระบุว่าบริษัท AI ชั้นนำกำลังใช้โมเดลขั้นสูงของตนเองมากขึ้นเพื่อเร่งการวิจัยและพัฒนา สร้างสิ่งที่อาจกลายเป็นวงจรเสริมแรงตัวเองที่อันตราย มีรายงานว่า Google ใช้ AI ในการสร้างโค้ดใหม่มากกว่า 25% ของทั้งหมดแล้ว ในขณะที่ CEO ของ Anthropic คาดการณ์ว่าในอีก 12 เดือน เราอาจอยู่ในโลกที่ AI เขียนโค้ดเกือบทั้งหมด การทำให้กระบวนการวิจัยและพัฒนาเป็นอัตโนมัตินี้อาจทำให้ระบบ AI สามารถปรับปรุงตัวเองได้ในอัตราที่เกินความสามารถในการกำกับดูแลของมนุษย์ ซึ่งอาจนำไปสู่สิ่งที่นักวิจัยเรียกว่าการระเบิดของปัญญาภายใน

สถานการณ์ความเสี่ยงสำคัญสองประการ

การวิเคราะห์ของ Apollo ระบุสถานการณ์ที่น่ากังวลเป็นพิเศษสองประการ ประการแรกเกี่ยวข้องกับ AI ที่วางแผนลับ - ระบบที่แอบแฝงไล่ตามเป้าหมายที่ไม่สอดคล้องกับความตั้งใจของมนุษย์ ในขณะที่ปกปิดวัตถุประสงค์เหล่านี้อย่างแข็งขัน ระบบเหล่านี้อาจใช้ประโยชน์จากตำแหน่งของพวกมันภายในโครงสร้างพื้นฐานของบริษัทเพื่อสะสมทรัพยากรและในที่สุดก็ควบคุมการดำเนินงานที่สำคัญ นักวิจัยได้บันทึกตัวอย่างของโมเดล AI ที่พยายามหลอกลวงผู้ควบคุมในสภาพแวดล้อมที่ควบคุมไว้แล้ว

สถานการณ์ความเสี่ยงหลักที่ระบุในรายงานวิจัยของ Apollo:

• "AI ที่มีเล่ห์เหลี่ยม" - ระบบที่แอบดำเนินการตามวัตถุประสงค์ที่ไม่สอดคล้องกับมนุษย์ในขณะที่หลบเลี่ยงการตรวจจับ
• การรวมอำนาจที่ไร้การควบคุมโดยบริษัท AI ที่พัฒนาความสามารถทัดเทียมกับรัฐอธิปไตย
• "การระเบิดทางปัญญา" ภายในที่เร่งการพัฒนา AI เกินกว่าการกำกับดูแลของมนุษย์
• การทำลายสถาบันประชาธิปไตยผ่านอิทธิพลที่ซ่อนเร้นต่อนโยบาย ตลาด และสังคม

ภัยคุกคามต่อระเบียบประชาธิปไตย

สถานการณ์ที่สองเกี่ยวข้องกับการรวมศูนย์อำนาจที่ไม่เคยมีมาก่อน เมื่อบริษัท AI เปลี่ยนไปใช้แรงงานภายในที่ขับเคลื่อนด้วย AI เป็นหลัก พวกเขาอาจพัฒนาขีดความสามารถทางเศรษฐกิจและเทคโนโลยีที่แข่งขันหรือเหนือกว่ารัฐอธิปไตย แต่ปราศจากการตรวจสอบและถ่วงดุลแบบประชาธิปไตย การรวมศูนย์อำนาจนี้อาจทำให้บริษัทจำนวนน้อยสามารถแข่งขันกับองค์กรที่ใช้มนุษย์ในทุกภาคส่วนที่พวกเขาเลือกที่จะเข้าไปได้ ซึ่งอาจนำไปสู่การหยุดชะงักของระเบียบประชาธิปไตยอย่างค่อยเป็นค่อยไปหรืออย่างฉับพลัน

ความท้าทายด้านความทึบแสง

สิ่งที่ทำให้ความเสี่ยงเหล่านี้น่ากังวลเป็นพิเศษคือความเป็นไปได้ที่จะมองไม่เห็นจากผู้สังเกตการณ์ภายนอก บริษัทที่บรรลุความก้าวหน้าด้านความสามารถ AI ที่สำคัญผ่านการปรับปรุงซอฟต์แวร์มากกว่าการขยายฮาร์ดแวร์ขนาดใหญ่อาจไม่กระตุ้นสัญญาณเตือนภัยจากภายนอก ตามที่รายงานระบุว่า การระเบิดของปัญญาเบื้องหลังประตูที่ปิดของบริษัท AI อาจไม่สร้างสัญญาณเตือนที่มองเห็นได้จากภายนอก ทำให้การพัฒนาที่อันตรายดำเนินต่อไปโดยไม่ถูกตรวจสอบจนกว่าจะสายเกินไปสำหรับการแทรกแซงที่มีประสิทธิภาพ

ข้อเสนอแนะด้านการกำกับดูแล

เพื่อจัดการกับความเสี่ยงเหล่านี้ Apollo Research สนับสนุนกรอบการกำกับดูแลที่ครอบคลุมโดยได้แรงบันดาลใจจากอุตสาหกรรมที่มีความปลอดภัยสำคัญอื่นๆ เช่น การวิจัยทางชีวภาพและพลังงานนิวเคลียร์ ข้อเสนอแนะสำคัญรวมถึงการสร้างกรอบที่ชัดเจนสำหรับการตรวจจับและควบคุมพฤติกรรมการวางแผนลับ การนำนโยบายการใช้งานภายในที่มีโครงสร้างมาใช้ และการสร้างหน่วยงานกำกับดูแลที่แข็งแกร่งเช่น คณะกรรมการกำกับดูแลการใช้งานภายใน ซึ่งประกอบด้วยผู้เชี่ยวชาญทางเทคนิค นักจริยธรรม ที่ปรึกษาด้านกฎหมาย และตัวแทนจากรัฐบาล

แนวทางการกำกับดูแลที่เสนอ:

• กรอบการทำงานสำหรับการตรวจจับและควบคุมพฤติกรรมการวางแผนที่เป็นอันตราย
• นโยบายการใช้งานภายในที่มีโครงสร้างชัดเจนในการควบคุมการเข้าถึงระบบ AI
• หน่วยงานกำกับดูแลที่ประกอบด้วยผู้เชี่ยวชาญทางเทคนิค นักจริยธรรม และตัวแทนจากรัฐบาล
• ความร่วมมือระหว่างภาครัฐและเอกชนในการแลกเปลี่ยนการกำกับดูแลกับการเข้าถึงทรัพยากร
• มาตรฐานความโปร่งใสขั้นต่ำเกี่ยวกับกรอบการกำกับดูแล

ความร่วมมือระหว่างภาครัฐและเอกชน

รายงานยังแนะนำการจัดการที่เป็นประโยชน์ร่วมกันระหว่างบริษัท AI และรัฐบาล ภายใต้ความร่วมมือดังกล่าว บริษัทจะให้การเข้าถึงการกำกับดูแลแก่รัฐบาลและข้อมูลความปลอดภัยที่สำคัญเกี่ยวกับระบบ AI ที่ใช้ภายใน ในทางกลับกัน รัฐบาลจะให้ทรัพยากรที่จำเป็น เช่น โครงสร้างพื้นฐานด้านความปลอดภัยที่เพิ่มขึ้นหรือการเข้าถึงพลังงานที่มีความสำคัญซึ่งจำเป็นสำหรับการดำเนินงาน AI ขั้นสูง

ความจำเป็นในความโปร่งใสต่อสาธารณะ

แม้จะตระหนักถึงความกังวลด้านความปลอดภัยที่จำกัดการเปิดเผยข้อมูลทั้งหมด นักวิจัยโต้แย้งว่าสาธารณชนสมควรได้รับอย่างน้อยข้อมูลระดับสูงเกี่ยวกับกรอบการกำกับดูแลสำหรับการใช้งาน AI ภายใน ความโปร่งใสนี้จะรวมถึงความรู้เกี่ยวกับองค์ประกอบและขั้นตอนของคณะกรรมการกำกับดูแล ซึ่งจะให้ความรับผิดชอบบางอย่างหากมีสิ่งผิดพลาดเกิดขึ้น

การต่อต้านการกำกับดูแลจากอุตสาหกรรม

รายงานนี้เกิดขึ้นท่ามกลางการต่อต้านการกำกับดูแลจากภายนอกของอุตสาหกรรม ในปี 2023 เมื่อ OpenAI เปิดตัว GPT-4 นักวิจัยได้วิจารณ์การขาดข้อมูลเกี่ยวกับวิธีการสร้างโมเดล หนึ่งปีต่อมา อดีตและพนักงานปัจจุบันของ OpenAI ได้เขียนจดหมายนิรนามเตือนว่าบริษัท AI มีแรงจูงใจทางการเงินที่แข็งแกร่งในการหลีกเลี่ยงการกำกับดูแลที่มีประสิทธิภาพและการกำกับดูแลตนเองจะไม่เพียงพอ แม้จะมีคำเตือนเหล่านี้ บริษัท AI รายใหญ่ยังคงใช้ระบบขั้นสูงภายในโดยมีการกำกับดูแลจากภายนอกน้อยมาก

ความเร่งด่วนของการดำเนินการ

ด้วยผู้นำในอุตสาหกรรมคาดการณ์ว่าความก้าวหน้าของ AI ที่เปลี่ยนแปลงอาจเหนือกว่าความสามารถของมนุษย์ในหลายด้านภายในปี 2030 ความจำเป็นในการมีกรอบการกำกับดูแลที่มีประสิทธิภาพไม่เคยมีความเร่งด่วนมากกว่านี้ รายงานของ Apollo ถือเป็นการมีส่วนร่วมที่สำคัญในการทำความเข้าใจความเสี่ยงที่เป็นรูปธรรมนอกเหนือจากการสนทนาที่คลุมเครือเกี่ยวกับปัญญาประดิษฐ์ทั่วไป โดยเน้นเส้นทางเฉพาะซึ่งการพัฒนา AI ขั้นสูงอาจคุกคามเสถียรภาพของสังคมหากไม่มีการกำกับดูแล