อัลต์แมนเตือน AI ที่ไร้การควบคุมอาจขยายความเหลื่อมล้ำ หนุนจำกัดความเร็ว RSI

แซม อัลต์แมน ซีอีโอ OpenAI เตือนว่าการพัฒนา AI อย่างไม่จำกัดอาจทำให้ความเหลื่อมล้ำทางสังคมลึกซึ้งขึ้น และระบุว่าจำเป็นต้องมีข้อจำกัดระดับโลกต่อความเร็วของ recursive self-improvement (RSI) ซึ่งเป็นกระบวนการที่ระบบ AI พัฒนาความสามารถของตนเอง ในการให้สัมภาษณ์กับยูทูบเบอร์ด้านเทคโนโลยี Matthew Berman ซึ่งเผยแพร่โดยพอดแคสต์ Forward Future

อัลต์แมนกล่าวว่าห้องแล็บที่ผลักดัน RSI เต็มความเร็วอาจบรรลุความสามารถได้ แต่จะมีความเสี่ยงสูง โดยสนับสนุนกลไกจำกัดความเร็วในการพัฒนา คำเตือนนี้สะท้อนความตึงเครียดภายใน OpenAI ซึ่งยังคงลงทุนในโมเดล ชิป และศูนย์ข้อมูล ขณะที่อัลต์แมนยืนยันว่าความเป็นผู้นำด้านเทคโนโลยีไม่สามารถเป็นข้อได้เปรียบเดียวของบริษัทได้ เขาอ้างถึงความสัมพันธ์กับลูกค้า เครือข่ายผลกระทบ และโครงสร้างพื้นฐานที่ประหยัดต้นทุนว่าเป็นคูเมืองที่ยั่งยืน

อัลต์แมนกล่าวว่าโมเดลปัจจุบันยังไม่มีจิตสำนึก แต่ปฏิเสธการให้สถานะบุคคลตามกฎหมายหรือเจตจำนงอัตวิสัยแก่ AI โดยเน้นว่ามนุษย์ต้องคงอำนาจในการตัดสินใจ เขายังสนับสนุนการปฏิรูปกระบวนการอนุมัติของ FDA พร้อมยืนยันการทดสอบความปลอดภัยที่มีอยู่

ด้านคอมพิวต์ อัลต์แมนกล่าวว่าความต้องการไม่มีเพดานชัดเจน โดยอ้างถึงปรากฏการณ์ Jevons Paradox ที่ปัญญาที่ถูกกว่าขับเคลื่อนการใช้งานมากขึ้น OpenAI กำลังพัฒนาชิปภายในองค์กรและฮาร์ดแวร์สำหรับผู้บริโภครุ่นใหม่