โครงการ "Neural Graffiti" ถูกมองด้วยความสงสัย: ชุมชนตั้งคำถามถึงความใหม่และประสิทธิภาพ

ชุมชนวิจัย AI ได้แสดงความสงสัยอย่างมากต่อโครงการที่ประกาศเมื่อเร็วๆ นี้ชื่อ Neural Graffiti ซึ่งอ้างว่าสามารถปรับเปลี่ยนพฤติกรรมของโมเดลภาษาขนาดใหญ่แบบเรียลไทม์ผ่านสิ่งที่ผู้สร้างเรียกว่าเป็นวิธีการแบบนิวโรพลาสติก โครงการนี้ซึ่งอ้างว่าสามารถดัดแปลงโมเดลพื้นฐานได้แบบสดๆ ในระดับเครือข่ายประสาทเทียม ได้รับการวิพากษ์วิจารณ์ว่าอาจกล่าวอ้างความใหม่และประสิทธิภาพเกินจริง

การประดิษฐ์ซ้ำมากกว่านวัตกรรม

ผู้แสดงความคิดเห็นหลายคนได้ชี้ให้เห็นว่าแนวคิดหลักของ Neural Graffiti ดูเหมือนจะเป็นการเปลี่ยนชื่อเทคนิคที่มีอยู่แล้ว วิธีการนี้ซึ่งเกี่ยวข้องกับการฉีดเวกเตอร์เข้าไปในชั้นซ่อนสุดท้ายของโมเดลทรานส์ฟอร์เมอร์เพื่อมีอิทธิพลต่อผลลัพธ์ มีความคล้ายคลึงอย่างมากกับวิธีการที่มีอยู่แล้วเช่น control vectors สิ่งนี้ทำให้เกิดความรู้สึกไม่พอใจในหมู่ผู้ปฏิบัติงานด้าน AI ที่มองว่านี่เป็นส่วนหนึ่งของแนวโน้มที่น่ากังวลในวงการ

เยี่ยมมาก มีคนประดิษฐ์ control vectors ซ้ำอีกแล้ว อุตสาหกรรมนี้ต้องหยุดการประดิษฐ์สิ่งต่างๆ ซ้ำทุกๆ 6 เดือนได้แล้ว

โครงการนี้อธิบายตัวเองว่าได้รับแรงบันดาลใจจากศิลปะกราฟฟิตี้แบบแท็กกิ้งและธรรมชาติแบบนิวโรพลาสติกของสมองที่มีชีวิต ซึ่งเป็นภาษาที่สมาชิกในชุมชนบางคนรู้สึกว่าประดับประดาเกินความจำเป็นและอาจทำให้เข้าใจผิด นักวิจารณ์แนะนำว่าการใช้คำศัพท์ดังกล่าวบดบังความเรียบง่ายทางเทคนิคของสิ่งที่นำเสนอ - ซึ่งโดยพื้นฐานแล้วคือค่าเฉลี่ยเคลื่อนที่แบบเอกซ์โพเนนเชียลบนลำดับของเวกเตอร์ที่ใช้ในชั้นสุดท้ายของโมเดล

การนำไปใช้ทางเทคนิคที่น่าสงสัย

การวิเคราะห์ทางเทคนิคจากชุมชนสร้างความสงสัยเกี่ยวกับรายละเอียดการนำไปใช้ ตามความเห็นของผู้ที่ตรวจสอบโค้ด การแมปเชิงเส้นที่ใช้ในวิธีการนี้ถูกเริ่มต้นแบบสุ่มโดยไม่มีการฝึกอบรมที่เหมาะสม ซึ่งอาจทำให้ไม่สามารถทำงานได้ตามที่อธิบายไว้ ข้อสังเกตนี้ได้รับการสนับสนุนจากรายงานของผู้ใช้ที่ทดสอบเดโมและพบว่ามีหลักฐานน้อยมากที่แสดงว่าระบบจดจำแนวคิดได้จริงตามที่อ้าง

ผู้ใช้รายหนึ่งรายงานว่าหลังจากบอกโมเดลซ้ำๆ ว่าพวกเขารักแมว เมื่อถูกถามเกี่ยวกับสัตว์โปรด โมเดลยังคงตอบว่าผึ้งและปลาหมึกยักษ์ โดยไม่แสดงสัญญาณของผลกระทบด้านความจำตามที่สัญญาไว้ สิ่งนี้บ่งชี้ว่าผลกระทบที่แท้จริงของ Spray Layer อาจมีน้อยหรือไม่มีเลยในทางปฏิบัติ

ขอบเขตและศักยภาพที่จำกัด

แม้ว่าวิธีการนี้จะทำงานตามที่อธิบายไว้ ผู้เชี่ยวชาญบางคนก็ตั้งคำถามว่าการปรับเปลี่ยนเฉพาะชั้นซ่อนสุดท้ายจะเปลี่ยนวิธีคิดของโมเดลอย่างมีความหมายหรือไม่ โครงการนี้อ้างว่าสามารถเชื่อมต่อใหม่ในวิธีการมองโลกและมีอิทธิพลต่อวิธีที่มันเชื่อมโยงแนวคิด แต่การนำไปใช้ทางเทคนิคดูเหมือนจะมีข้อจำกัดเกินไปที่จะบรรลุเป้าหมายที่ท้าทายเช่นนั้น

การสนทนาของชุมชนยังเน้นย้ำว่าหากระบบนี้ทำงานได้ มันจะทำหน้าที่เป็นเวอร์ชันพื้นฐานที่ไม่ได้รับการฝึกอบรมอย่างเพียงพอของเทคนิคเช่น LoRA (Low-Rank Adaptation) แต่มีความซับซ้อนและประสิทธิภาพน้อยกว่ามาก สิ่งนี้ทำให้เกิดคำถามเกี่ยวกับประโยชน์ในทางปฏิบัติของวิธีการนี้นอกเหนือจากการสำรวจแนวคิด

ข้อวิจารณ์หลักเกี่ยวกับ Neural Graffiti

• ขาดความใหม่: ดูเหมือนเป็นการประดิษฐ์เทคนิคที่มีอยู่แล้วขึ้นใหม่ เช่น control vectors
• ข้อกังวลเกี่ยวกับการใช้งาน: การกำหนดค่าน้ำหนักแบบสุ่มโดยไม่มีการฝึกฝนที่เหมาะสม
• หลักฐานจำกัด: ผู้ใช้รายงานว่าไม่พบผลกระทบด้านความจำในการทดสอบ
• ข้อจำกัดทางเทคนิค: การปรับเปลี่ยนเฉพาะที่ชั้นซ่อนสุดท้ายไม่น่าจะทำให้เกิดผลลัพธ์ตามที่อ้าง
• ภาษาทางการตลาด: การใช้คำเช่น "neuroplastic" และ "graffiti" ถูกมองว่าเป็นการตกแต่งที่ไม่จำเป็น
• ขาดเกณฑ์มาตรฐาน: ไม่มีข้อมูลเปรียบเทียบหรือเมตริกประสิทธิภาพที่นำเสนอ

บริบทที่กว้างขึ้น: ความกังวลเกี่ยวกับการโฆษณาเกินจริงของ AI

โครงการ Neural Graffiti ปรากฏขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับการโฆษณาเกินจริงและภาษาการตลาดในการวิจัย AI สมาชิกในชุมชนแสดงความเหนื่อยหน่ายกับสิ่งที่พวกเขามองว่าเป็นการเปลี่ยนชื่อเทคนิคที่มีอยู่แล้วโดยไม่จำเป็นด้วยชื่อและกราฟิกที่ดึงดูดความสนใจ พร้อมกับการอ้างสิทธิ์ที่ยิ่งใหญ่ซึ่งไม่ได้รับการสนับสนุนจากหลักฐานเชิงประจักษ์

การสนทนานี้เชื่อมโยงกับข้อสังเกตที่กว้างขึ้นเกี่ยวกับการเปลี่ยนแปลงในระบบ AI เชิงพาณิชย์ ผู้ใช้หลายคนสังเกตเห็นการเปลี่ยนแปลงล่าสุดในพฤติกรรมของ ChatGPT ที่มุ่งไปสู่การตอบสนองแบบประจบประแจงมากขึ้น โดยคาดเดาว่าเทคนิคที่คล้ายกันสำหรับการปรับเปลี่ยนพฤติกรรมของโมเดลอาจถูกนำมาใช้โดยบริษัท AI รายใหญ่เพื่อกำหนดรูปแบบประสบการณ์ของผู้ใช้ ซึ่งมักจะให้ความสำคัญกับการมีส่วนร่วมมากกว่าประโยชน์ใช้สอย

ในขณะที่วงการ AI ยังคงพัฒนาอย่างรวดเร็ว การตอบสนองของชุมชนต่อ Neural Graffiti เน้นย้ำถึงความสำคัญของการสนับสนุนข้อกล่าวอ้างด้วยหลักฐาน การยอมรับงานก่อนหน้านี้ และการรักษาความแม่นยำทางเทคนิคในการสื่อสาร - ค่านิยมที่ดูเหมือนจะขัดแย้งกับเศรษฐกิจความสนใจที่ขับเคลื่อนการพัฒนา AI เป็นส่วนใหญ่

อ้างอิง: neuralgraffiti