รายละเอียดข่าวฉบับเต็ม
เนื้อหาข่าวฉบับสมบูรณ์ พร้อมบริบทและข้อมูลเชิงลึก
เอแวน ฮูบิงเกอร์ นักวิจัยด้านความปลอดภัยของ Anthropic ได้ออกมาเตือนผ่านสื่อว่ามีความเสี่ยงมากกว่า 10% ที่ปัญญาประดิษฐ์ (AI) จะสังหารมนุษย์ทุกคนภายใน 10 ปีข้างหน้า หากการพัฒนาเทคโนโลยี Superintelligence ยังคงดำเนินไปโดยปราศจากการควบคุมที่เหมาะสม ฮูบิงเกอร์ระบุว่าแม้โมเดลปัจจุบันจะยังมีความเสี่ยงต่ำ แต่ความสามารถในการปรับปรุงตนเองของ AI อาจทำให้ระบบหลุดจากการควบคุมได้ง่าย นอกจากนี้ยังมีประเด็นเรื่องความโปร่งใสของบริษัท Anthropic ที่ถูกรายงานว่าปฏิเสธการส่งมอบโมเดลล่าสุดให้สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AISI) ตรวจสอบ ส่งผลให้เกิดกระแสเรียกร้องจากอดีตรัฐมนตรีอังกฤษให้มีการทำสนธิสัญญาระหว่างประเทศเพื่อกำกับดูแล AI อย่างจริงจัง อย่างไรก็ตาม ผู้เชี่ยวชาญบางส่วนตั้งข้อสงสัยว่าการออกมาเตือนในลักษณะนี้อาจเป็นกลยุทธ์ทางการตลาดเพื่อสร้างกระแสก่อนการทำ IPO ของบริษัท