เมื่อปลายปี 2015 ที่ผ่านมา นักวิทยาศาสตร์และผู้นำทางด้านอุตสาหกรรมและเทคโนโลยีมากกว่า 1,000 คน รวมทั้ง อีลอน มัสก์ ผู้พัฒนา เทสลา และ สเปซเอ็กซ์ กับตัวแทนของ กูเกิล และ ไมโครซอฟท์ เข้าชื่อกันทำจดหมายถึงสหประชาชาติ (ยูเอ็น) เรียกร้องให้ยูเอ็นดำเนินการอย่างหนึ่งอย่างใด เพื่อห้ามหรือควบคุมการพัฒนา “ระบบอาวุธทำลายล้างอัตโนมัติ” หรือที่เรียกกันง่ายๆ ว่า “หุ่นยนต์สังหาร” อันหมายถึงระบบอาวุธอัตโนมัติที่ควบคุมโดยปัญญาประดิษฐ์ (เอไอ) ซึ่งสามารถเลือกเป้าและกำหนดเวลาสังหารได้ด้วยตัวเองโดยปราศจากการควบคุมของมนุษย์
นักทฤษฎีฟิสิกส์ชื่อดังชาวอังกฤษอย่าง สตีเฟน ฮอว์กิ้ง ออกมาเน้นย้ำให้เห็นถึงอันตรายของ เอไอและหุ่นสังหารเป็นระยะๆ โดยยืนยันว่าหากปราศจากการควบคุมหรือวางกรอบพัฒนาที่ดี เอไออาจกลายเป็นความเสี่ยงมหาศาลถึงขนาดทำลายอารยธรรมมนุษย์ให้สิ้นสุดลงได้เลยทีเดียว
แรงกดดันจากนักวิทยาศาสตร์ชั้นนำและผู้นำธุรกิจอุตสาหกรรมต่างๆ เหล่านั้น นำไปสู่การเคลื่อนไหวอย่างเป็นรูปธรรมในเรื่องนี้เป็นครั้งแรก ในที่สุดนานาชาติว่าด้วยอาวุธในรูปแบบ (อินเตอร์เนชั่นแนล คอนเวนชั่น ออน คอนเวนชั่นแนล วีพพอนส์) ที่นครเจนีวา ประเทศสวิตเซอร์แลนด์ ตัวแทนชาติที่เข้าร่วมในการประชุม 123 ประเทศ ลงมติให้มีการจัดการประชุมเพื่อหารือถึงอันตรายของระบบอาวุธทำลายล้างอัตโนมัติขึ้น “อย่างเป็นทางการ” ในปี 2017 ที่จะถึงนี้
สตีเฟน กูส ผู้อำนวยการแผนกอาวุธของ ฮิวแมนไรต์ส วอตช์ องค์กรเคลื่อนไหวเพื่อสิทธิมนุษยชน และเป็นหนึ่งในผู้ร่วมก่อตั้งองค์กรรณรงค์เพื่อยับยั้งหุ่นสังหาร (แคมเปญ ทู สต๊อป คิลเลอร์ โรบอต) ระบุว่า ความเคลื่อนไหวดังกล่าวถือเป็นข่าวดี เพราะการตัดสินใจในระดับสูงของนานาชาติ การเปลี่ยนสถานะจาก “ไม่เป็นทางการ” สู่ความ “เป็นทางการ” นั้น ถือเป็นการรุดหน้าครั้งใหญ่ จากการพูดจากันอย่างเดียวไปสู่การหารือกันเพื่อหาข้อยุติไป “ดำเนินการ” ซึ่งคาดหมายกันว่าการประชุมนานาชาติในปีใหม่นี้จะให้ผลลัพธ์ที่หนักแน่นชัดเจนออกมา
ความเคลื่อนไหวดังกล่าวของยูเอ็นสอดคล้องกับสถานการณ์ในขณะนี้ ที่บรรดาหน่วยงานของกองทัพของหลายประเทศทั่วโลก ออกมายอมรับกันว่ากำลังพัฒนาระบบอาวุธทำลายล้างอัตโนมัติขึ้นด้วยกันทั้งนั้น ในเดือนสิงหาคมที่ผ่านมา ทางการจีนก็ออกมาเปิดเผยว่ากำลังวิจัยหาทางใช้เอไอและระบบอัตโนมัติในจรวดครูสยุคต่อไปของตน
“แผนพัฒนาอาวุธที่ติดตั้งเอไอของจีนอาจฟังดูน่าตกใจ แต่จริงๆ แล้วไม่น่าตระหนกเท่ากับความพยายามในทำนองเดียวกันของสหรัฐอเมริกา, รัสเซีย, อิสราเอล และประเทศ อื่นๆ” กูสระบุ “สหรัฐอเมริกาเป็นชาติที่รุดหน้าในด้านนี้มากที่สุด กองทัพทันสมัยส่วนใหญ่จะเดินไปตามแนวทางของระบบอาวุธอัตโนมัติ เทคโนโลยีใหม่ๆ ช่วยให้หุ่นสังหารที่พัฒนากันขึ้นมาสามารถเป็นไปได้ในหลายรูปแบบ หลายขนาด และรูปร่าง มีตั้งแต่ที่ขนาดเล็กจิ๋ว แต่โจมตีด้วยกันกลุ้มรุมกันเข้ามานับหมื่นนับแสน ไปจนถึงระบบอาวุธอัตโนมัติที่โจมตีจากทางอากาศ ทางภาคพื้นดิน จากท้องทะเล หรือใต้น้ำ”
สตีเฟน กูส ชี้ความแตกต่างสำคัญระหว่างระบบอาวุธทั่วไป, ระบบอาวุธกึ่งอัตโนมัติ เช่นโดรน กับระบบอาวุธอัตโนมัติเต็มรูปแบบที่ใช้เอไอว่า อยู่ตรงที่การเกี่ยวข้องของมนุษย์ เพราะในระบบอาวุธอัตโนมัติเต็มรูปนั้น มนุษย์จะไม่มีส่วนเกี่ยวข้องใดๆ อีกเลย ทั้งในการเลือกว่าเป้าหมายในการโจมตีคืออะไรและจะเริ่มการโจมตีเมื่อใด ระบบอาวุธจะเป็นผู้ตัดสินใจเรื่องสำคัญอย่างยิ่งในสนามรบดังกล่าวด้วยตัวเองอาศัยเพียงเซ็นเซอร์และปัญญาประดิษฐ์เท่านั้น ซึ่งจะเป็นการพลิกโฉมหน้าของการรบไปโดยสิ้นเชิง แต่ไม่ใช่เป็นการเปลี่ยนแปลงไปเพื่อสิ่งที่ดีกว่าของมนุษยชาติแน่นอน
กูสชี้ว่า แรงกดดันจากผู้นำในแวดวงอุตสาหกรรมและวิทยาศาสตร์ทั้งหลาย ช่วยกระตุ้นให้ยูเอ็นตัดสินใจดำเนินการอย่างจริงจังมากขึ้นในครั้งนี้ ในแวดวงวิทยาศาสตร์เองดูเหมือนมีทรรศนะในเรื่องนี้เป็นอันหนึ่งอันเดียวกัน และทุกคนล้วนกังวลว่า ระบบอาวุธอัตโนมัติเต็มรูปแบบนั้น ไม่เพียงเสี่ยงต่อการเกิด “การแข่งขันสั่งสมอาวุธหุ่นสังหาร” ขึ้นที่สั่นคลอนต่อเสถียรภาพของโลกเท่านั้น ยังเสี่ยงต่อการเกิดการทำลายล้างมนุษยชาติหากเกิดความผิดเพี้ยนหรือผิดพลาดขึ้นในระบบเอไอที่สามารถนำไปสู่หายนะได้โดยง่าย
นอกจากนั้นนักวิทยาศาสตร์ทั้งหลายยังเกรงกันว่า การมุ่งพัฒนานำเอไอไปใช้เพื่อประโยชน์ทางการทหาร จะทำให้ชื่อเสียงของเอไอเสียหาย
และการพัฒนาเอไอไปในทางที่จะเอื้อประโยชน์ต่อมนุษยชาติได้สูงสุดก็จะทำได้ยากลำบากมากขึ้นอีกด้วย
