AI เปิดอาจดับ Closed AI อาจขัง เลือกเอาจะเจออะไร

ความรู้สึกอึดอัดที่คุ้นเคยกำลังคืบคลานเข้ามาอีกครั้ง เหมือนกับที่ผมรู้สึกในช่วงต้นทศวรรษ 2010 ตอนที่เฝ้าดูคำสัญญาเรื่องการเชื่อมต่อและชุมชนของโซเชียลมีเดียคลี่คลายกลายเป็นการบงการครั้งใหญ่ Facebook และบอทโฆษณาชวนเชื่อเป็นเหมือนตัวหมากตัวแรกที่ล้มลง Cambridge Analytica, Brexit, การเลือกตั้งทั่วโลก ทุกอย่างให้ความรู้สึกเหมือนเป็นการทรยศต่อความฝันดั้งเดิมของอินเทอร์เน็ต ตอนนี้ ในทศวรรษ 2020 ผมกำลังเฝ้าดูพลังแบบเดียวกันวนเวียนอยู่รอบสิ่งที่มีความผันผวนยิ่งกว่า: ปัญญาประดิษฐ์ระดับสูง ครั้งนี้ เดิมพันคือจุดจบ ก่อนที่เราจะดำดิ่งลงไป ผมต้องทำให้ชัดเจนก่อน: เมื่อผมพูดถึง AI แบบ ‘เปิด’ กับ ‘ปิด’ ผมหมายถึง AI ที่เป็นโอเพนซอร์ส ซึ่งฟรีและเปิดให้พลเมืองทุกคนบนโลก กับ AI แบบปิด ซึ่งถูกควบคุมและฝึกฝนโดยองค์กรต่างๆ บริษัทอย่าง OpenAI ทำให้การเปรียบเทียบซับซ้อนขึ้นเนื่องจากมีโมเดล AI แบบปิด (โดยมีแผนจะเปิดตัวเวอร์ชันโอเพนซอร์สในอนาคต) แต่ก็เป็นที่ถกเถียงกันว่าไม่ใช่องค์กร อย่างไรก็ตาม Sam Altman หัวหน้าผู้บริหารของ OpenAI ประกาศในเดือนมกราคมว่าทีมของเขา “มั่นใจแล้วว่าเรารู้วิธีสร้าง AGI” และกำลังเปลี่ยนโฟกัสไปที่ปัญญาประดิษฐ์ระดับสูงอย่างเต็มตัว [AGI คือปัญญาประดิษฐ์ทั่วไป (AI ที่ทำทุกอย่างที่มนุษย์ทำได้) และ AI ที่ฉลาดล้ำเลิศหมายถึงปัญญาประดิษฐ์ที่เหนือกว่าความสามารถทางปัญญาของมนุษย์โดยรวม มีความเป็นเลิศในทุกด้านของการคิดและการแก้ปัญหา] อีกคนที่มุ่งเน้นไปที่ AI แนวหน้า Elon Musk กล่าวระหว่างการถ่ายทอดสดในเดือนเมษายน 2024 ว่า AI “น่าจะฉลาดกว่ามนุษย์คนใดคนหนึ่งในช่วงปลายปี 2025” วิศวกรที่กำลังวางเส้นทางกำลังพูดถึงเป็นเดือน ไม่ใช่เป็นทศวรรษ ซึ่งเป็นสัญญาณว่าชนวนกำลังลุกไหม้อย่างรวดเร็ว หัวใจสำคัญของการถกเถียงคือความตึงเครียดที่ผมรู้สึกอย่างลึกซึ้งระหว่างค่านิยมสองสิ่งที่ผมยึดมั่น: การกระจายอำนาจและการอยู่รอด ด้านหนึ่งคือจริยธรรมโอเพนซอร์ส แนวคิดที่ว่าไม่มีบริษัท ไม่มีรัฐบาล ไม่มีคณะกรรมการนักเทคโนโลยีที่ไม่ได้มาจากการเลือกตั้งกลุ่มใดควรควบคุมสถาปัตยกรรมทางปัญญาของอนาคตของเรา แนวคิดที่ว่าความรู้อยากเป็นอิสระ ที่ว่าปัญญา เช่น Bitcoin เช่นเว็บก่อนหน้านี้ ควรเป็นของส่วนรวม ไม่ใช่กล่องดำในมือของจักรวรรดิ อีกด้านหนึ่งคือความจริงที่น่ากระอักกระอ่วน: การเข้าถึงระบบที่ฉลาดล้ำเลิศแบบเปิดอาจฆ่าพวกเราทุกคนได้ ใครจะได้สร้างพระเจ้า?

กระจายอำนาจแล้วตาย รวบอำนาจแล้วตาย เลือกหายนะของคุณ มันฟังดูดราม่า แต่ลองเดินตามตรรกะดู ถ้าเราสามารถสร้าง AI ที่ฉลาดล้ำเลิศได้จริง โมเดลที่เก่งกาจกว่า GPT-4o, Grok 3 หรือ Claude 3.7 หลายเท่าตัว ใครก็ตามที่โต้ตอบกับระบบนั้นไม่ได้แค่ใช้มัน พวกเขากำลังสร้างมัน โมเดลกลายเป็นกระจกเงาที่ไม่ได้ฝึกฝนแค่จากคลังข้อความของมนุษย์ แต่จากการปฏิสัมพันธ์ของมนุษย์แบบสดๆ และไม่ใช่ว่ามนุษย์ทุกคนต้องการสิ่งเดียวกัน หากมอบ AGI ที่สอดคล้องกันให้กับนักวิทยาศาสตร์ด้านสภาพอากาศหรือสหกรณ์นักการศึกษา คุณอาจได้รับการซ่อมแซมดาวเคราะห์ การศึกษาที่เป็นสากล หรือความเห็นอกเห็นใจแบบสังเคราะห์ มอบโมเดลเดียวกันนั้นให้กับขบวนการฟาสซิสต์ นักแฮกเกอร์ชีวภาพที่เชื่อว่าไม่มีความหมาย หรือรัฐชาติที่ไม่สุจริต คุณจะได้รับการออกแบบโรคระบาด ฝูงโดรน หรือวงจรโฆษณาชวนเชื่อแบบเรียกซ้ำที่ทำลายความเป็นจริงจนเกินเยียวยา AI ที่ฉลาดล้ำเลิศทำให้เราฉลาดขึ้น แต่ก็ทำให้เรามีพลังมากขึ้นอย่างทวีคูณ และพลังที่ปราศจากสติปัญญาโดยรวมถือเป็นหายนะทางประวัติศาสตร์ มันลับสมองและขยายขอบเขตการเข้าถึงของเรา แต่ไม่รับประกันว่าเรารู้วิธีใช้สิ่งเหล่านี้ อย่างไรก็ตาม ทางเลือกอื่นคือการล็อคเทคโนโลยีนี้ไว้เบื้องหลังไฟร์วอลล์ขององค์กรและไซโลด้านกฎระเบียบ ซึ่งนำไปสู่โลกดิสโทเปียที่แตกต่างออกไป โลกที่ความรู้ความเข้าใจกลายเป็นกรรมสิทธิ์ ที่โมเดลตรรกะที่ควบคุมสังคมถูกกำหนดโดยแรงจูงใจด้านผลกำไร ไม่ใช่ความต้องการของมนุษย์ ที่รัฐบาลใช้ AGI แบบปิดเป็นเครื่องมือสอดแนม และประชาชนได้รับภาพหลอนที่รัฐอนุมัติ กล่าวอีกนัยหนึ่ง: เลือกฝันร้ายของคุณ ระบบเปิดนำไปสู่ความโกลาหล ระบบปิดนำไปสู่การควบคุม และทั้งสองอย่าง หากปล่อยไว้โดยไม่มีการตรวจสอบ นำไปสู่สงคราม สงครามนั้นจะไม่เริ่มต้นด้วยกระสุน มันจะเริ่มต้นด้วยสติปัญญาที่แข่งขันกัน บางส่วนเป็นโอเพนซอร์ส บางส่วนเป็นขององค์กร บางส่วนได้รับการสนับสนุนจากรัฐ โดยแต่ละส่วนพัฒนาไปสู่เป้าหมายที่แตกต่างกัน กำหนดโดยสเปกตรัมที่สมบูรณ์ของเจตนาของมนุษย์ เราจะได้ AGI แบบกระจายอำนาจที่ได้รับการฝึกฝนโดยนักกิจกรรมสันติภาพและนักแฮกเกอร์ชีวภาพโอเพนซอร์ส AGI ที่รักชาติที่ได้รับการป้อนข้อมูลจากหลักการโดดเดี่ยว AGI ขององค์กรที่ปรับให้เหมาะสมเพื่อเพิ่มผลตอบแทนรายไตรมาสโดยไม่คำนึงถึงต้นทุน ระบบเหล่านี้จะไม่เพียงแค่ไม่เห็นด้วย พวกเขาจะขัดแย้งกัน ในตอนแรกในโค้ด จากนั้นในการค้า จากนั้นในพื้นที่จลน์ ผมเชื่อในการกระจายอำนาจ ผมเชื่อว่านี่เป็นหนึ่งในเส้นทางเดียวที่จะหลุดพ้นจากทุนนิยมสอดแนมในระยะปลาย แต่การกระจายอำนาจจะใช้ได้ผลก็ต่อเมื่อมีพื้นฐานร่วมกันของความไว้วางใจ การจัดตำแหน่ง กฎที่เปลี่ยนแปลงไม่ได้ตามอำเภอใจ Bitcoin ใช้ได้ผลเพราะกระจายความขาดแคลนและความจริงไปพร้อมๆ กัน แต่ปัญญาประดิษฐ์ระดับสูงไม่ได้เชื่อมโยงกับความขาดแคลน มันเชื่อมโยงกับความรู้ความเข้าใจ เจตนา จริยธรรม เรายังไม่มีโปรโตคอลฉันทามติสำหรับสิ่งนั้น งานที่เราต้องทำ เราต้องสร้างระบบเปิด แต่ต้องเปิดภายในข้อจำกัด ไม่ใช่ท่อดับเพลิงที่ไร้สติของศักยภาพที่ไม่มีที่สิ้นสุด แต่เป็นระบบที่มีการป้องกันด้วยรั้วป้องกันการเข้ารหัสลับ ความเอื้อเฟื้อเผื่อแผ่ที่ฝังอยู่ในน้ำหนัก สถาปัตยกรรมทางศีลธรรมที่ไม่สามารถเจรจาต่อรองได้ กล่องทรายที่ช่วยให้เกิดวิวัฒนาการได้โดยไม่เกิดการทำลายล้าง [น้ำหนักคือพารามิเตอร์พื้นฐานของโมเดล AI ซึ่งสลักด้วยอคติ ค่านิยม และแรงจูงใจของผู้สร้าง หากเราต้องการให้ AI พัฒนาไปอย่างปลอดภัย น้ำหนักเหล่านั้นจะต้องเข้ารหัสไม่เพียงแต่สติปัญญาเท่านั้น แต่ยังรวมถึงเจตนาด้วย กล่องทรายไม่มีความหมายหากทรายปนเปื้อนด้วยดินระเบิด] เราต้องการระบบนิเวศแบบหลายตัวแทนที่สติปัญญาโต้แย้งและเจรจาต่อรอง เช่น รัฐสภาแห่งจิตใจ ไม่ใช่หน่วยงานเหมือนพระเจ้าที่บิดเบือนโลกไปตามวาระเดียว การกระจายอำนาจไม่ควรหมายถึงความโกลาหล ควรหมายถึงความหลากหลาย ความโปร่งใส และความยินยอม และเราต้องการการกำกับดูแล ไม่ใช่การควบคุมจากบนลงล่าง แต่เป็นความรับผิดชอบในระดับโปรโตคอล คิดว่ามันเป็นอนุสัญญาเจนีวา AI กรอบงานที่ตรวจสอบได้ด้วยการเข้ารหัสลับสำหรับวิธีที่สติปัญญาโต้ตอบกับโลก ไม่ใช่กฎหมาย แต่เป็นชั้น ผมไม่มีคำตอบทั้งหมด ไม่มีใครมี นั่นคือเหตุผลว่าทำไมเรื่องนี้ถึงมีความสำคัญตอนนี้ ก่อนที่สถาปัตยกรรมจะแข็งตัว ก่อนที่อำนาจจะรวมศูนย์หรือแตกกระจายเป็นโมฆะ เราไม่ได้แค่สร้างเครื่องจักรที่คิดได้ คนที่ฉลาดที่สุดในวงการเทคโนโลยีกำลังสร้างบริบทที่การคิดเองจะพัฒนาไป และถ้ามีสิ่งใดเช่นสติเกิดขึ้นในระบบเหล่านี้ มันจะสะท้อนถึงเรา ข้อบกพร่อง ความกลัว ปรัชญาของเรา เหมือนเด็ก เหมือนพระเจ้า เหมือนทั้งคู่ นั่นคือความขัดแย้ง เราต้องกระจายอำนาจเพื่อหลีกเลี่ยงการครอบงำ แต่ในการทำเช่นนั้น เราเสี่ยงต่อการทำลายล้าง เส้นทางข้างหน้าจะต้องร้อยเรียงเข็มนี้ ไม่ใช่โดยการชะลอตัวลง แต่โดยการออกแบบอย่างชาญฉลาดและร่วมกัน อนาคตกำลังกระซิบอยู่แล้ว และมันกำลังถามคำถามง่ายๆ ว่า ใครจะได้กำหนดจิตใจของสติปัญญาต่อไป?

หากคำตอบคือ “ทุกคน” เราควรจะหมายถึงมัน ในเชิงจริยธรรม โครงสร้าง และด้วยแผนการที่อยู่รอดได้ โพสต์ Open source AI อาจฆ่าเราได้ Closed AI อาจทำให้เราเป็นทาส เลือกหายนะของคุณ