บริษัท AI ถูกเตือนให้เร่งประเมินความเสี่ยง
36 0C
Thailand
Thailand
บริษัท AI ถูกเตือนให้เร่งประเมินความเสี่ยง “ซูเปอร์อินเทลลิเจนซ์” ก่อนสายเกินควบคุม
11-5-2025
นักวิจัยด้าน AI ชื่อดังจาก MIT เตือนว่า บริษัทเทคโนโลยีทั่วโลกควรเร่งคำนวณความเสี่ยงของ "ซูเปอร์อินเทลลิเจนซ์" หรือ AI ที่ฉลาดเหนือมนุษย์ ก่อนจะปล่อยระบบเหล่านี้ออกมาใช้งานโดยไร้การควบคุม ซึ่งอาจก่อให้เกิดภัยคุกคามต่อการอยู่รอดของมนุษยชาติ ศาสตราจารย์แมกซ์ เท็กมาร์ก และทีมงานจาก MIT เสนอให้บริษัท AI คำนวณสิ่งที่เรียกว่า “ค่าคงที่คอมป์ตัน” หรือความน่าจะเป็นที่ AI ขั้นสูงจะหลุดจากการควบคุมของมนุษย์ โดยอ้างอิงจากแนวคิดของนักฟิสิกส์อาร์เธอร์ คอมป์ตัน ผู้เคยคำนวณความเสี่ยงก่อนอนุมัติการทดลองระเบิดนิวเคลียร์ Trinity ในปี 1945 ซึ่งขณะนั้น คอมป์ตันประเมินว่าโอกาสที่จะเกิดปฏิกิริยาฟิวชันแบบควบคุมไม่ได้อยู่ที่น้อยกว่า 1 ใน 3 ล้าน
แต่จากการคำนวณล่าสุด เท็กมาร์กพบว่า ความเสี่ยงของ AI ที่ทรงพลังเกินมนุษย์อาจสูงถึง 90% เขาเรียกร้องให้บริษัท AI รายใหญ่ ไม่ใช่แค่ “รู้สึกดี” ว่าระบบปลอดภัย แต่ต้องคำนวณและเปิดเผยตัวเลขความเสี่ยงให้ชัดเจน เพื่อสร้างแรงผลักดันทางการเมืองให้เกิดกรอบความร่วมมือด้านความปลอดภัย AI ระดับโลก
รายงานจาก Singapore Consensus ซึ่งเท็กมาร์กร่วมจัดทำกับผู้เชี่ยวชาญจาก OpenAI, Google DeepMind และนักวิทยาศาสตร์อย่างโยชัว เบนจิโอ เสนอ 3 แนวทางหลักในการวิจัยความปลอดภัย AI ได้แก่
การวัดผลกระทบของ AI ในปัจจุบันและอนาคต
การกำหนดพฤติกรรม AI ให้สอดคล้องกับเป้าหมาย
การควบคุมและจัดการระบบไม่ให้เบี่ยงเบน
ท่ามกลางการแข่งขันพัฒนา AI ที่ทวีความรุนแรง เท็กมาร์กย้ำว่า ถึงเวลาที่โลกต้องร่วมมือกัน ก่อนจะสายเกินไป
IMCT News
