มีความรู้สึกอึดอัดคุ้นเคยกำลังคืบคลานเข้ามาอีกครั้ง เหมือนที่เคยรู้สึกในช่วงต้นทศวรรษ 2010 เมื่อเฝ้ามองคำสัญญาเรื่องการเชื่อมต่อและชุมชนของโซเชียลมีเดีย พังทลายกลายเป็นการบงการครั้งใหญ่ Facebook และบอทโฆษณาชวนเชื่อเป็นเหมือนตัวต่อตัวแรกๆ ที่ล้มครืน Cambridge Analytica, Brexit, การเลือกตั้งทั่วโลก ทุกอย่างรู้สึกเหมือนเป็นการหักหลังความฝันดั้งเดิมของอินเทอร์เน็ต ตอนนี้ ในทศวรรษ 2020 ฉันกำลังเฝ้ามองพลังอำนาจเดิมวนเวียนอยู่กับสิ่งที่ผันผวนยิ่งกว่า: ปัญญาประดิษฐ์ระดับสุดยอด คราวนี้ เดิมพันคือความตาย
ก่อนที่เราจะลงลึกไปในรายละเอียด ฉันต้องทำให้ชัดเจน: เมื่อฉันพูดถึง AI แบบ ‘เปิด’ เทียบกับ ‘ปิด’ ฉันหมายถึง AI แบบโอเพนซอร์ส ซึ่งฟรีและเปิดให้พลเมืองทุกคนบนโลก เทียบกับ AI แบบปิด ซึ่งถูกควบคุมและฝึกฝนโดยองค์กร บริษัท OpenAI ทำให้การเปรียบเทียบมีความซับซ้อน เนื่องจากมีโมเดล AI แบบปิด (โดยมีแผนที่จะปล่อยเวอร์ชันโอเพนซอร์สในอนาคต) แต่ก็เป็นที่ถกเถียงกันว่าไม่ใช่หน่วยงานของบริษัท อย่างไรก็ตาม Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI ประกาศในเดือนมกราคมว่าทีมของเขา “มั่นใจแล้วว่ารู้วิธีสร้าง AGI” และกำลังเปลี่ยนจุดสนใจไปที่ปัญญาประดิษฐ์ระดับสุดยอดอย่างเต็มรูปแบบ [AGI คือ ปัญญาประดิษฐ์ทั่วไป (AI ที่ทำทุกอย่างที่มนุษย์ทำได้) และ AI ระดับสุดยอดหมายถึง ปัญญาประดิษฐ์ที่เหนือกว่าความสามารถทางปัญญารวมกันของมนุษยชาติ มีความสามารถที่ยอดเยี่ยมในทุกด้านของการคิดและการแก้ปัญหา]
Elon Musk อีกคนที่มุ่งเน้นไปที่ AI ที่ล้ำสมัย กล่าวในระหว่างการถ่ายทอดสดในเดือนเมษายน 2024 ว่า AI “น่าจะฉลาดกว่ามนุษย์คนใดคนหนึ่งในช่วงปลายปี [2025]” วิศวกรที่กำลังวางแผนกำลังพูดถึงเรื่องนี้เป็นเดือน ไม่ใช่ทศวรรษ ซึ่งเป็นสัญญาณว่าชนวนกำลังลุกไหม้อย่างรวดเร็ว หัวใจสำคัญของการถกเถียงคือความตึงเครียดที่ฉันรู้สึกอย่างลึกซึ้งระหว่างค่านิยมสองอย่างที่ฉันยึดมั่นอย่างแรงกล้า: การกระจายอำนาจและการอยู่รอด ด้านหนึ่งคือจริยธรรมแบบโอเพนซอร์ส แนวคิดที่ว่าไม่มีบริษัท ไม่มีรัฐบาล ไม่มีคณะกรรมการนักเทคโนโลยีที่ไม่ได้มาจากการเลือกตั้ง ควบคุมสถาปัตยกรรมทางปัญญาของอนาคตของเรา แนวคิดที่ว่าความรู้อยากเป็นอิสระ ความฉลาด เช่นเดียวกับ Bitcoin เช่นเดียวกับเว็บก่อนหน้านี้ ควรเป็นสมบัติส่วนรวม ไม่ใช่กล่องดำในมือของจักรวรรดิ
อีกด้านหนึ่งคือความจริงที่น่ากระอักกระอ่วน: การเข้าถึงระบบระดับสุดยอดแบบเปิด อาจฆ่าเราได้ทั้งหมด
กระจายอำนาจแล้วตาย รวมศูนย์แล้วตาย เลือกหายนะของคุณ ฟังดูน่าตื่นเต้น แต่เดินตามตรรกะไปข้างหน้า ถ้าเราสามารถสร้าง AI ระดับสุดยอดได้สำเร็จ โมเดลที่มีความสามารถมากกว่า GPT-4o, Grok 3 หรือ Claude 3.7 มาก ใครก็ตามที่โต้ตอบกับระบบนั้น จะทำมากกว่าแค่ใช้มัน พวกเขากำลังสร้างมัน โมเดลกลายเป็นกระจกเงา ไม่เพียงแต่ได้รับการฝึกฝนจากคลังข้อความของมนุษย์เท่านั้น แต่ยังได้รับการฝึกฝนจากการโต้ตอบของมนุษย์แบบสดๆ และไม่ใช่ว่ามนุษย์ทุกคนต้องการสิ่งเดียวกัน
มอบ AGI ที่สอดคล้องกันให้กับนักวิทยาศาสตร์ด้านสภาพอากาศหรือสหกรณ์นักการศึกษา คุณอาจได้รับการฟื้นฟูดาวเคราะห์ การศึกษาที่เป็นสากล หรือความเห็นอกเห็นใจสังเคราะห์ มอบโมเดลเดียวกันนั้นให้กับขบวนการฟาสซิสต์ แฮ็กเกอร์ชีวนิยมที่ไร้ศีลธรรม หรือรัฐชาติที่ฉ้อฉล คุณจะได้รับการแพร่ระบาดที่ถูกสร้างขึ้น ฝูงโดรน หรือวงจรโฆษณาชวนเชื่อแบบเรียกซ้ำที่ทำลายความเป็นจริงจนเกินเยียวยา AI ระดับสุดยอดทำให้เราฉลาดขึ้น แต่ก็ทำให้เรามีอำนาจมากขึ้นอย่างทวีคูณ และอำนาจที่ปราศจากสติปัญญาส่วนรวมนั้นเป็นหายนะในประวัติศาสตร์ มันทำให้ความคิดของเราเฉียบคมและขยายขอบเขตการเข้าถึงของเรา แต่ก็ไม่ได้รับประกันว่าเรารู้ว่าจะทำอย่างไรกับมัน
อย่างไรก็ตาม ทางเลือกอื่นคือ การล็อคเทคโนโลยีนี้ไว้เบื้องหลังไฟร์วอลล์ของบริษัทและไซโลด้านกฎระเบียบ นำไปสู่โลกดิสโทเปียที่แตกต่างออกไป โลกที่ความรู้ความเข้าใจเองกลายเป็นกรรมสิทธิ์ โมเดลตรรกะที่ควบคุมสังคมถูกกำหนดโดยแรงจูงใจในการแสวงหากำไร ไม่ใช่ความต้องการของมนุษย์ ที่ซึ่งรัฐบาลใช้ AGI แบบปิดเป็นเครื่องมือเฝ้าระวัง และประชาชนได้รับภาพหลอนที่รัฐอนุมัติ กล่าวอีกนัยหนึ่ง: เลือกฝันร้ายของคุณ ระบบเปิดนำไปสู่ความโกลาหล ระบบปิดนำไปสู่การควบคุม และทั้งสองอย่าง หากปล่อยไว้โดยไม่ตรวจสอบ นำไปสู่สงคราม สงครามนั้นจะไม่เริ่มต้นด้วยกระสุน มันจะเริ่มต้นด้วยความฉลาดที่แข่งขันกัน บางส่วนเป็นโอเพนซอร์ส บางส่วนเป็นของบริษัท บางส่วนได้รับการสนับสนุนจากรัฐ โดยแต่ละส่วนพัฒนาไปสู่เป้าหมายที่แตกต่างกัน ซึ่งถูกกำหนดโดยสเปกตรัมทั้งหมดของเจตจำนงของมนุษย์
เราจะได้ AGI แบบกระจายอำนาจที่ได้รับการฝึกฝนจากนักเคลื่อนไหวเพื่อสันติภาพและแฮ็กเกอร์ชีวนิยมแบบโอเพนซอร์ส AGI ที่รักชาติที่ได้รับการเลี้ยงดูจากหลักคำสอนแบบโดดเดี่ยว AGI ขององค์กรที่ได้รับการปรับแต่งเพื่อเพิ่มผลตอบแทนรายไตรมาสให้ได้มากที่สุดไม่ว่าจะต้องแลกมาด้วยอะไรก็ตาม ระบบเหล่านี้จะไม่เพียงแค่ไม่เห็นด้วย พวกเขาจะขัดแย้งกัน ในตอนแรกในโค้ด จากนั้นในการค้า จากนั้นในพื้นที่ไคเนติก ฉันเชื่อในการกระจายอำนาจ ฉันเชื่อว่ามันเป็นหนึ่งในเส้นทางเดียวที่จะออกจากการเฝ้าระวังทุนนิยมในระยะปลาย แต่การกระจายอำนาจของอำนาจจะใช้ได้ผลก็ต่อเมื่อมีรากฐานร่วมกันของความไว้วางใจ การสอดคล้องกัน กฎที่เปลี่ยนแปลงไม่ได้ตามอำเภอใจ Bitcoin ใช้งานได้เพราะมันกระจายความขาดแคลนและความจริงไปพร้อมๆ กัน แต่ปัญญาประดิษฐ์ระดับสุดยอดไม่ได้เชื่อมโยงกับความขาดแคลน แต่มันเชื่อมโยงกับความรู้ความเข้าใจ เจตนา และจริยธรรม เรายังไม่มีโปรโตคอลฉันทามติสำหรับสิ่งนั้น
งานที่เราต้องทำ เราต้องสร้างระบบเปิด แต่ระบบเหล่านั้นจะต้องเปิดภายในข้อจำกัด ไม่ใช่สายน้ำที่ไร้ปัญญาที่เต็มไปด้วยศักยภาพอันไร้ขีดจำกัด แต่เป็นระบบที่มีการป้องกันด้วยขอบเขตการเข้ารหัสลับ ความเอื้อเฟื้อเผื่อแผ่ที่ฝังอยู่ในน้ำหนัก สถาปัตยกรรมทางศีลธรรมที่ต่อรองไม่ได้ แซนด์บ็อกซ์ที่ช่วยให้วิวัฒนาการเป็นไปได้โดยไม่ทำให้เกิดการทำลายล้าง [น้ำหนักคือพารามิเตอร์พื้นฐานของโมเดล AI ที่สลักด้วยอคติ ค่านิยม และแรงจูงใจของผู้สร้าง หากเราต้องการให้ AI พัฒนาไปอย่างปลอดภัย น้ำหนักเหล่านั้นจะต้องเข้ารหัสไม่เพียงแต่ความฉลาดเท่านั้น แต่ยังรวมถึงเจตนาด้วย แซนด์บ็อกซ์ไม่มีความหมาย หากทรายปนเปื้อนด้วยดินระเบิด]
เราต้องการระบบนิเวศแบบหลายเอเจนต์ที่ความฉลาดโต้แย้งและเจรจาต่อรอง เช่น รัฐสภาแห่งจิตใจ ไม่ใช่เอนทิตีพระเจ้าเดียวที่บิดเบือนโลกให้เป็นวาระเดียว การกระจายอำนาจไม่ควรหมายถึงความโกลาหล มันควรหมายถึงความหลากหลาย ความโปร่งใส และความยินยอม และเราต้องการการกำกับดูแล ไม่ใช่การควบคุมจากบนลงล่าง แต่เป็นความรับผิดชอบในระดับโปรโตคอล ลองนึกถึงมันว่าเป็นอนุสัญญาเจนีวา AI กรอบการตรวจสอบด้วยการเข้ารหัสลับสำหรับวิธีที่ความฉลาดโต้ตอบกับโลก ไม่ใช่กฎหมาย แต่เป็นชั้น
ฉันไม่มีคำตอบทั้งหมด ไม่มีใครมี นั่นคือเหตุผลว่าทำไมเรื่องนี้ถึงมีความสำคัญตอนนี้ ก่อนที่สถาปัตยกรรมจะแข็งตัว ก่อนที่อำนาจจะรวมศูนย์หรือแตกสลายอย่างไม่อาจแก้ไขได้ เราไม่ได้แค่สร้างเครื่องจักรที่คิดได้ ผู้ที่มีความคิดที่ฉลาดที่สุดในเทคโนโลยี กำลังสร้างบริบทที่การคิดเองจะพัฒนาไป และถ้ามีอะไรบางอย่างเช่นสติเกิดขึ้นในระบบเหล่านี้ มันจะสะท้อนถึงเรา ข้อบกพร่อง ความกลัว ปรัชญาของเรา เหมือนเด็ก เหมือนพระเจ้า เหมือนทั้งสองอย่าง นั่นคือความขัดแย้ง เราต้องกระจายอำนาจเพื่อหลีกเลี่ยงการครอบงำ แต่ในการทำเช่นนั้น เราเสี่ยงต่อการถูกทำลาย เส้นทางข้างหน้าจะต้องร้อยเรียงเข็มนี้ ไม่ใช่ด้วยการชะลอตัว แต่ด้วยการออกแบบอย่างชาญฉลาดและร่วมกัน อนาคตกำลังกระซิบอยู่แล้ว และมันกำลังถามคำถามง่ายๆ: ใครจะได้กำหนดจิตใจของความฉลาดต่อไป?
ถ้าคำตอบคือ “ทุกคน” เราควรจะหมายถึงมันอย่างแท้จริง ในเชิงจริยธรรม ในเชิงโครงสร้าง และด้วยแผนการที่อยู่รอดได้ โพสต์ Open AI อาจฆ่าเราได้ Closed AI อาจทำให้เราเป็นทาส เลือกอนาคตของคุณ ปรากฏครั้งแรกบน CryptoSlate