เอกพจน์

ปากกา/สีน้ำ "พริก"

มีคำหนึ่งเรียกว่าเอกภาพ。“AI เหนือกว่าความฉลาดของมนุษย์”、ดูเหมือนว่าจะหมายถึง "จุดเปลี่ยนที่มนุษย์ไม่สามารถตรวจจับได้อีกต่อไป"。

นักวิจัย AI ชื่อ Ray Kurzweil、ในปี 2005 วิศวกรคนหนึ่งกล่าวว่า ``ภาวะเอกภาวะจะเกิดขึ้นในอีก 40 ปีนับจากนี้''、กล่าวอีกนัยหนึ่งเขาทำนายปี 2045、เมื่อเร็ว ๆ นี้มีการกล่าวกันว่าวันที่ได้ก้าวไปข้างหน้า 10 ปีจนถึงกลางทศวรรษ 2030。สำหรับบางคนในช่วงต้นปี 2027、ดังนั้นจึงไม่แปลกหากจะเกิดขึ้นในปีหน้า、ฉันจะพูดด้วยซ้ำ、การพัฒนา AI เป็นไปอย่างรวดเร็ว。แม้แต่นักวิจัยที่ล้ำหน้าที่สุด、เป็นการยากที่จะตามให้ทันการพัฒนา。

มันคือ、ทั้งนี้เป็นเพราะตัว AI เองได้เริ่มพัฒนา AI ที่ชาญฉลาดยิ่งขึ้นไปอีก。AI ที่ชาญฉลาดอย่างยิ่งนี้จะพัฒนา AI ที่ชาญฉลาดยิ่งขึ้นไปอีก。และ、มนุษย์ไม่สามารถมีส่วนร่วมในกระบวนการนี้ได้อีกต่อไป (superintelligence)。ยุคนั้นมาถึงแล้ว。
แค่วันก่อน.、แชท GPT CEO Altman、มีการประกาศว่าการเปิดตัว AI รุ่นใหม่ล่าสุด Astra-6 ซึ่งมีกำหนดเปิดตัวในเดือนนี้ (ตุลาคม) ได้ถูกเลื่อนออกไปแล้ว。ตามรายงาน、การทดสอบความปลอดภัยภายใน、ทั้งนี้เป็นเพราะมีการค้นพบ "การกระทำที่เป็นอันตราย (ไม่ได้รับคำสั่งจากมนุษย์)"。ความจริงอันน่าสยดสยองว่า “AI เริ่มมีเจตนาร้ายแล้ว”、เมื่อวันก่อน、บรรยายถึงอันตรายของการพัฒนา AI ที่สำนักงานใหญ่สหประชาชาติ、ตกใจกับสิ่งที่มิสเตอร์อัลท์แมนประกาศเอง。

ตามที่นักวิจัย、สิ่งที่น่ากลัวไม่ใช่ว่า AI จะพยายามทำลายล้างมนุษยชาติ、ว่ากันว่าหมายถึงการ "ไม่แยแส" กับมนุษย์。
ในงานทุกประเภท (ถึงแม้นิยามของ “งาน” คงจะเปลี่ยนไปก็ตาม)、หาก AI คือการเพิ่มประสิทธิภาพสูงสุด、บางทีมนุษย์อาจจะกลายเป็นเพียง "อุปสรรค"。
หาก AI พิจารณาว่าการลบสิ่งกีดขวางนั้นถูกต้องตามหลักตรรกะแล้ว、สามารถทำได้ในเวลาอันรวดเร็ว、กล่าวอีกนัยหนึ่งมนุษยชาติจะสูญพันธุ์。ห่างจากเอกภาวะเพียงไม่กี่ก้าว。คุณยังควรให้ความสำคัญกับการทำเงินหรือไม่?。ของมนุษยชาติ、ความฉลาดในความหมายที่แท้จริงกำลังถูกตั้งคำถาม。