Silicon Valley เผชิญหน้ากับแนวคิดที่ว่า 'Singularity' อยู่ที่นี่ (2023)

เป็นเวลาหลายทศวรรษที่ Silicon Valley คาดการณ์ถึงช่วงเวลาที่เทคโนโลยีใหม่จะเข้ามาเปลี่ยนแปลงทุกสิ่ง มันจะรวมมนุษย์และเครื่องจักรเข้าด้วยกัน อาจจะดีขึ้น แต่อาจจะแย่ลง และแยกประวัติศาสตร์ออกเป็นก่อนและหลังจาก.

ชื่อสำหรับเหตุการณ์สำคัญนี้:ภาวะเอกฐาน.

อาจเกิดขึ้นได้หลายวิธี ความเป็นไปได้ประการหนึ่งคือผู้คนจะเพิ่มพลังการประมวลผลของคอมพิวเตอร์ให้กับหน่วยสืบราชการลับที่มีมาแต่กำเนิดของตนเอง หรือบางทีคอมพิวเตอร์อาจซับซ้อนขึ้นจนสามารถคิดได้อย่างแท้จริง สร้างสมองระดับโลกขึ้นมา

ไม่ว่าในกรณีใด การเปลี่ยนแปลงที่เกิดขึ้นจะรุนแรง ทวีคูณ และไม่สามารถย้อนกลับได้ เครื่องจักรเหนือมนุษย์ที่ตระหนักในตนเองสามารถออกแบบการปรับปรุงของตนเองได้เร็วกว่านักวิทยาศาสตร์กลุ่มใด ๆ ซึ่งเป็นจุดเริ่มต้นของการระเบิดของหน่วยสืบราชการลับ ความก้าวหน้าหลายศตวรรษอาจเกิดขึ้นในเวลาหลายปีหรือหลายเดือน Singularity เป็นหนังสติ๊กสู่อนาคต

ปัญญาประดิษฐ์กำลังสั่นคลอนเทคโนโลยี ธุรกิจ และการเมืองอย่างที่ไม่เคยเป็นมาก่อนในความทรงจำที่ผ่านมา ฟังคำกล่าวอ้างที่เกินจริงและการยืนยันอย่างป่าเถื่อนจากซิลิคอนแวลลีย์ และดูเหมือนว่าในที่สุดสวรรค์เสมือนจริงที่สัญญาไว้อย่างยาวนานก็อยู่ใกล้แค่เอื้อม

Sundar Pichai หัวหน้าผู้บริหารระดับล่างของ Google เรียกปัญญาประดิษฐ์ว่า“ลึกซึ้งยิ่งกว่าไฟหรือไฟฟ้าหรือสิ่งใดๆ ที่เราเคยทำไว้ในอดีต”เรด ฮอฟฟ์แมนนักลงทุนระดับมหาเศรษฐีกล่าวว่า “พลังในการเปลี่ยนแปลงเชิงบวกในโลกกำลังจะได้รับแรงหนุนครั้งใหญ่ที่สุดเท่าที่เคยมีมา” และบิล เกตส์ ผู้ร่วมก่อตั้งไมโครซอฟต์ประกาศว่า A.I.“จะเปลี่ยนวิธีการทำงาน การเรียนรู้ การเดินทาง การดูแลสุขภาพ และการติดต่อสื่อสารระหว่างกัน”

AI. คือการเปิดตัวผลิตภัณฑ์ใหม่ขั้นสุดยอดของ Silicon Valley: การก้าวข้ามความต้องการ

แต่มีความมืดมน ราวกับว่าบริษัทเทคโนโลยีต่าง ๆ เปิดตัวรถยนต์ไร้คนขับโดยมีข้อแม้ว่าพวกเขาสามารถระเบิดได้ก่อนที่คุณจะไปถึง Walmart

“การถือกำเนิดของปัญญาประดิษฐ์ทั่วไปเรียกว่า Singularity เพราะมันยากมากที่จะคาดเดาว่าจะเกิดอะไรขึ้นหลังจากนั้น” Elon Musk ผู้บริหาร Twitter และ Tesla กล่าวบอกกับ CNBC เมื่อเดือนที่แล้ว. เขากล่าวว่าเขาคิดว่า "ยุคแห่งความอุดมสมบูรณ์" จะส่งผลให้เกิด แต่มี "โอกาสบางอย่าง" ที่มันจะ "ทำลายมนุษยชาติ"

เชียร์ลีดเดอร์ที่ยิ่งใหญ่ที่สุดสำหรับ A.I. ในชุมชนเทคโนโลยีคือแซม อัลท์แมนผู้บริหารระดับสูงของ OpenAI สตาร์ทอัพที่สร้างกระแสความนิยมด้วยแชทบอท ChatGPT เขาบอกว่า A.I. จะเป็น “พลังที่ยิ่งใหญ่ที่สุดในการสร้างพลังทางเศรษฐกิจและหลายคนรวยขึ้นเราเคยเห็น”

แต่เขายังกล่าวอีกว่า Mr. Muskวิจารณ์ A.I. ที่เริ่มก่อตั้งบริษัทด้วยเพื่อพัฒนาส่วนต่อประสานระหว่างสมองกับคอมพิวเตอร์ อาจจะใช่ก็ได้

นายอัลท์แมนลงนามจดหมายเปิดผนึกเมื่อเดือนที่แล้วเผยแพร่โดย Center for AI Safety ซึ่งเป็นองค์กรไม่แสวงหาผลกำไร โดยกล่าวว่า “ลดความเสี่ยงต่อการสูญพันธุ์จาก A.I. ควรมีความสำคัญระดับโลก” ที่อยู่ที่นั่นด้วย “โรคระบาดและสงครามนิวเคลียร์” ผู้ลงนามอื่นๆ ได้แก่ เพื่อนร่วมงานของ Mr. Altman จาก OpenAI และนักวิทยาศาสตร์คอมพิวเตอร์จาก Microsoft และ Google

Apocalypse เป็นที่คุ้นเคย แม้กระทั่งดินแดนอันเป็นที่รักของ Silicon Valley ไม่กี่ปีที่ผ่านมา ดูเหมือนว่าผู้บริหารด้านเทคโนโลยีทุกคนจะมีหลุมหลบภัยวันโลกาวินาศที่เก็บไว้อย่างครบครันในที่ห่างไกลแต่สามารถเข้าถึงได้ ในปี 2559 นาย Altman กล่าวว่าเขากำลังสะสม "ปืน ทองคำ โพแทสเซียมไอโอไดด์ ยาปฏิชีวนะ แบตเตอรี่ น้ำ หน้ากากป้องกันแก๊สพิษจากกองกำลังป้องกันประเทศอิสราเอล และผืนดินขนาดใหญ่ใน Big Sur ที่ฉันบินไปได้" การระบาดใหญ่ของไวรัสโคโรนาทำให้ผู้เตรียมการด้านเทคโนโลยีรู้สึกได้รับการพิสูจน์อยู่พักหนึ่ง

ตอนนี้พวกเขากำลังเตรียมพร้อมสำหรับ Singularity

Baldur Bjarnason ผู้เขียนหนังสือกล่าวว่า "พวกเขาชอบคิดว่าพวกเขาเป็นคนมีเหตุผล แต่พวกเขาฟังดูเหมือนพระสงฆ์ในปี 1,000 ที่พูดถึงการถูกรับขึ้นไป"ภาพลวงตาอัจฉริยะ,” การตรวจสอบที่สำคัญของ A.I. “มันค่อนข้างน่ากลัว” เขากล่าว

รากแห่งวิชชา

รากเหง้าทางปัญญาของ Singularity ย้อนกลับไปที่จอห์น ฟอน นอยแมนนักวิทยาศาสตร์คอมพิวเตอร์ผู้บุกเบิกในทศวรรษที่ 1950 พูดถึงวิธีที่ "ความก้าวหน้าอย่างรวดเร็วของเทคโนโลยี" จะทำให้เกิด "เอกพจน์ที่สำคัญบางอย่างในประวัติศาสตร์ของการแข่งขัน"

เออร์วิง จอห์น กู๊ด นักคณิตศาสตร์ชาวอังกฤษที่ช่วยถอดรหัสอุปกรณ์ Enigma ของเยอรมันที่ Bletchley Park ในช่วงสงครามโลกครั้งที่สองก็เป็นผู้มีอิทธิพลเช่นกัน “การอยู่รอดของมนุษย์นั้นขึ้นอยู่กับการสร้างเครื่องจักรอัจฉริยะในยุคแรกๆ”เขาเขียนในปี 2507. ผู้กำกับ Stanley Kubrick ได้ปรึกษากับ Mr. Good เกี่ยวกับ HAL ซึ่งเป็นคอมพิวเตอร์ที่ไม่เป็นอันตรายซึ่งกลายเป็นตัวร้ายใน “2001: A Space Odyssey” ซึ่งเป็นตัวอย่างแรก ๆ ของพรมแดนที่มีรูพรุนระหว่างวิทยาการคอมพิวเตอร์และนิยายวิทยาศาสตร์

Hans Moravec ผู้ช่วยศาสตราจารย์แห่ง Robotics Institute แห่งมหาวิทยาลัย Carnegie Mellon คิดว่า A.I. จะเป็นประโยชน์ไม่เพียงสำหรับคนเป็น: คนตายก็จะถูกเรียกคืนใน Singularity “เราจะมีโอกาสที่จะสร้างอดีตขึ้นมาใหม่และโต้ตอบกับมันในแบบที่แท้จริงและตรงไปตรงมา” เขาเขียนไว้ใน “Mind Children: The Future of Robot and Human Intelligence”

ในช่วงไม่กี่ปีที่ผ่านมา ผู้ประกอบการและนักประดิษฐ์เรย์ เคิร์ซไวล์เป็นแชมป์ที่ยิ่งใหญ่ที่สุดของ Singularity Mr. Kurzweil เขียนเรื่อง “The Age of Intelligent Machines” ในปี 1990 และ “The Singularity Is Near” ในปี 2005 และตอนนี้กำลังเขียนเรื่อง “The Singularity Is Nearer”

ภายในสิ้นทศวรรษนี้ เขาคาดว่าคอมพิวเตอร์จะผ่านพ้นไปการทดสอบทัวริงและแยกไม่ออกจากมนุษย์ สิบห้าปีหลังจากนั้น เขาคำนวณว่า การก้าวข้ามความจริงจะมาถึง ช่วงเวลาที่ “การคำนวณจะเป็นส่วนหนึ่งของตัวเรา และเราจะเพิ่มพูนสติปัญญาของเราเป็นล้านเท่า”

สำหรับนักวิจารณ์บางคนเกี่ยวกับ Singularity มันเป็นความพยายามอย่างน่าสงสัยทางสติปัญญาที่จะจำลองระบบความเชื่อของศาสนาที่จัดตั้งขึ้นในอาณาจักรของซอฟต์แวร์

Rodney Brooks อดีตผู้อำนวยการ Computer Science and Artificial Intelligence Laboratory ของ Massachusetts Institute of Technology กล่าวว่า “พวกเขาทุกคนต้องการชีวิตนิรันดร์โดยไม่ต้องเชื่อในพระเจ้า

นวัตกรรมที่สนับสนุนการถกเถียงเรื่อง Singularity ในปัจจุบันคือโมเดลภาษาขนาดใหญ่ประเภทของเอ.ไอ. ระบบที่ขับเคลื่อนแชทบอท เริ่มการสนทนากับหนึ่งใน L.L.M. เหล่านี้ และมันสามารถตอบกลับอย่างรวดเร็ว สอดคล้องกัน และบ่อยครั้งด้วยระดับความกระจ่างที่พอใช้

“เมื่อคุณถามคำถาม แบบจำลองเหล่านี้จะตีความความหมาย พิจารณาว่าคำตอบควรหมายถึงอะไร จากนั้นแปลกลับเป็นคำพูด ถ้านั่นไม่ใช่คำจำกัดความของหน่วยสืบราชการลับทั่วไป แล้วคืออะไร” Jerry Kaplan ซึ่งเป็น A.I. มายาวนานกล่าวว่า ผู้ประกอบการและผู้แต่ง “ปัญญาประดิษฐ์: สิ่งที่ทุกคนต้องรู้”

นายแคปแลนกล่าวว่าเขาไม่เชื่อเกี่ยวกับสิ่งมหัศจรรย์ที่ได้รับการประกาศอย่างสูงเช่นรถยนต์ที่ขับเคลื่อนด้วยตนเองและสกุลเงินดิจิทัล เขาเข้าใกล้ A.I. ล่าสุด บูมด้วยความสงสัยเหมือนกันแต่บอกว่าเขาชนะแล้ว

“หากนี่ไม่ใช่ 'ภาวะเอกฐาน' ก็เป็นภาวะเอกฐานอย่างแน่นอน: ขั้นตอนการเปลี่ยนแปลงทางเทคโนโลยีที่จะเร่งความเร็วของศิลปะ วิทยาศาสตร์ และความรู้ของมนุษย์ในวงกว้าง และสร้างปัญหาบางอย่าง” เขากล่าว

นักวิจารณ์โต้แย้งว่าแม้แต่ผลลัพธ์ที่น่าประทับใจของ L.L.M. ก็ยังห่างไกลจากหน่วยสืบราชการลับระดับโลกจำนวนมหาศาลที่ Singularity สัญญาไว้เป็นเวลานาน ส่วนหนึ่งของปัญหาในการแยกโฆษณาเกินความเป็นจริงออกจากความเป็นจริงคือเครื่องยนต์ที่ขับเคลื่อนเทคโนโลยีนี้ถูกซ่อนไว้ OpenAI ซึ่งเริ่มต้นจากการเป็นองค์กรไม่แสวงหาผลกำไรโดยใช้รหัสโอเพ่นซอร์ส ปัจจุบันกลายเป็นกิจการเพื่อผลกำไรที่นักวิจารณ์กล่าวว่าเป็นกล่องดำที่มีประสิทธิภาพ Google และ Microsoft ยังเสนอการมองเห็นที่จำกัดอีกด้วย

A.I.จำนวนมาก การวิจัยกำลังดำเนินการโดย บริษัท ต่างๆโดยได้รับประโยชน์มากมายจากผลลัพธ์ นักวิจัยของ Microsoft ซึ่งลงทุน 13 พันล้านเหรียญใน OpenAIตีพิมพ์บทความในเดือนเมษายนสรุปว่ารุ่นเบื้องต้นของOpenAI รุ่นล่าสุด“แสดงลักษณะหลายอย่างของสติปัญญา” รวมถึง “นามธรรม ความเข้าใจ การมองเห็น การเข้ารหัส” และ “ความเข้าใจในแรงจูงใจและอารมณ์ของมนุษย์”

Rylan Schaeffer นักศึกษาปริญญาเอกด้านวิทยาการคอมพิวเตอร์ที่ Stanford กล่าวว่า A.I. นักวิจัยได้วาดภาพที่ไม่ถูกต้องว่าแบบจำลองภาษาขนาดใหญ่เหล่านี้แสดง "ความสามารถฉุกเฉิน" ซึ่งเป็นความสามารถที่อธิบายไม่ได้ซึ่งไม่ปรากฏชัดในรุ่นเล็ก.

ร่วมกับเพื่อนร่วมงานของ Stanford สองคนคือ Brando Miranda และ Sanmi Koyejo นาย Schaeffer ได้ตรวจสอบคำถามในรายงานการวิจัยเผยแพร่เมื่อเดือนที่แล้วและสรุปว่าคุณสมบัติที่เกิดขึ้นนั้นเป็น "ภาพลวงตา" ที่เกิดจากข้อผิดพลาดในการวัด ผลก็คือ นักวิจัยมองเห็นสิ่งที่พวกเขาต้องการเห็น

ชีวิตนิรันดร์ ผลกำไรนิรันดร์

ในกรุงวอชิงตัน ลอนดอน และบรัสเซลส์ ส.ส.ต่างตื่นเต้นกับโอกาสและปัญหาของเอ.ไอ. และเริ่มพูดถึงกฎระเบียบ Mr. Altman อยู่ในโรดโชว์ โดยพยายามหลีกเลี่ยงคำวิจารณ์แต่เนิ่นๆ และส่งเสริม OpenAI ในฐานะผู้เลี้ยงแกะของ Singularity

ซึ่งรวมถึงการเปิดกว้างต่อกฎระเบียบ แต่สิ่งที่ดูเหมือนคลุมเครือ โดยทั่วไปแล้ว Silicon Valley มองว่ารัฐบาลช้าและโง่เกินไปที่จะดูแลการพัฒนาทางเทคโนโลยีอย่างรวดเร็ว

“ไม่มีใครในรัฐบาลที่สามารถทำให้ถูกต้องได้” Eric Schmidt อดีตผู้บริหารระดับสูงของ Googleพูดว่าในการให้สัมภาษณ์กับ “Meet the Press” เมื่อเดือนที่แล้ว โดยโต้แย้งกรณีของ A.I. การควบคุมตนเอง “แต่อุตสาหกรรมสามารถทำให้ถูกต้องได้”

A.I. เช่นเดียวกับ Singularity ถูกอธิบายว่าไม่สามารถย้อนกลับได้ “การหยุดมันต้องการบางอย่าง เช่น ระบบการเฝ้าระวังทั่วโลก และแม้แต่สิ่งนั้นก็ไม่รับประกันว่าจะได้ผล” Mr. Altman และเพื่อนร่วมงานบางคนของเขาเขียนเดือนที่แล้ว. หาก Silicon Valley ไม่สร้าง พวกเขากล่าวเสริม คนอื่นๆ จะทำ

ไม่ค่อยมีการพูดถึงคือผลกำไรมากมายจากการอัปโหลดโลก แม้จะมีการพูดถึง A.I. การเป็นเครื่องจักรสร้างความมั่งคั่งแบบไร้ขีดจำกัด คนที่รวยขึ้นคือคนที่รวยอยู่แล้ว

Microsoft ได้เห็นมูลค่าตลาดเพิ่มขึ้นครึ่งล้านล้านดอลลาร์ในปีนี้ Nvidia ผู้ผลิตชิปที่ใช้ A.I. เมื่อเร็ว ๆ นี้ ซิสเต็มส์ได้กลายเป็นหนึ่งในบริษัทสาธารณะที่มีมูลค่ามากที่สุดของสหรัฐ เมื่อกล่าวว่าความต้องการชิปเหล่านั้นมีพุ่งสูงขึ้น.

"AI. เป็นเทคโนโลยีที่โลกต้องการมาโดยตลอด” Mr. Altman ทวีต

เป็นเทคโนโลยีที่โลกแห่งเทคโนโลยีต้องการมาโดยตลอด และมาถึงในเวลาที่ดีที่สุดเท่าที่จะเป็นไปได้อย่างแน่นอน ปีที่แล้ว ซิลิคอนแวลลีย์คือผันผวนจากการปลดพนักงานและอัตราดอกเบี้ยที่เพิ่มสูงขึ้น Crypto ซึ่งบูมก่อนหน้านี้ถูกฉ้อฉลและความผิดหวัง.

ตามเงิน Charles Stross ผู้เขียนร่วมของนวนิยายเรื่อง "The Rapture of the Nerds" ซึ่งเป็นภาพยนตร์ตลกขบขันเกี่ยวกับ Singularity กล่าวเช่นเดียวกับผู้เขียน "Accelerando" ซึ่งเป็นความพยายามที่จริงจังมากขึ้นเพื่ออธิบายว่าชีวิตจะเป็นอย่างไรในไม่ช้า เป็นเหมือน.

“คำมั่นสัญญาที่แท้จริงในที่นี้ก็คือ บริษัทต่างๆ จะสามารถแทนที่หน่วยย่อยการประมวลผลข้อมูลของมนุษย์ที่มีข้อบกพร่อง ราคาแพง และช้าจำนวนมากด้วยซอฟต์แวร์บิต ซึ่งจะช่วยเร่งความเร็วและลดค่าใช้จ่าย” เขากล่าว

Singularity ได้รับการจินตนาการว่าเป็นเหตุการณ์เกี่ยวกับจักรวาลมานานแล้ว และยังอาจจะเป็น

แต่อาจแสดงให้เห็นอย่างแรกและสำคัญที่สุด ส่วนหนึ่งต้องขอบคุณความหลงใหลใน Silicon Valley ในปัจจุบัน ในฐานะที่เป็นเครื่องมือในการลดจำนวนพนักงานในอเมริกา เมื่อคุณเร่งรีบเพื่อเพิ่มมูลค่าหลายล้านล้านให้กับมูลค่าตลาดของคุณ สวรรค์สามารถรอได้