ฝันร้ายของความคืบหน้า: หุ่นยนต์นักฆ่าจะถูกแบนหรือไม่ วิธีหยุดหุ่นยนต์นักฆ่าอัตโนมัติ

Clearpath Robotics ก่อตั้งขึ้นเมื่อหกปีที่แล้วโดยเพื่อนวิทยาลัยสามคนที่มีใจรักในการทำสิ่งต่างๆ ร่วมกัน ผู้เชี่ยวชาญ 80 คนของบริษัทกำลังทดสอบหุ่นยนต์ข้ามประเทศ เช่น Husky ซึ่งเป็นหุ่นยนต์สี่ล้อที่กระทรวงกลาโหมสหรัฐฯ ใช้ พวกเขายังทำโดรนและแม้กระทั่งสร้างเรือหุ่นยนต์ Kingfisher อย่างไรก็ตาม สิ่งหนึ่งที่พวกเขาจะไม่มีวันสร้างอย่างแน่นอน นั่นคือ หุ่นยนต์ที่สามารถฆ่าได้

Clearpath เป็นบริษัทแรกและจนถึงขณะนี้บริษัทหุ่นยนต์เพียงแห่งเดียวที่สัญญาว่าจะไม่สร้างหุ่นยนต์นักฆ่า Ryan Garipay ผู้ร่วมก่อตั้งและ CTO ตัดสินใจเมื่อปีที่แล้ว และยังดึงดูดผู้เชี่ยวชาญมาที่บริษัทที่ชอบจุดยืนทางจริยธรรมอันเป็นเอกลักษณ์ของ Clearpath จริยธรรมของบริษัทหุ่นยนต์ได้มาถึงเมื่อไม่นานนี้ คุณเห็นไหมว่าเราเป็นเท้าเดียวในอนาคตซึ่งจะมีหุ่นยนต์นักฆ่า และเรายังไม่พร้อมสำหรับพวกเขา

แน่นอนว่ายังมีหนทางอีกยาวไกล ตัวอย่างเช่น ระบบ Dodam ของเกาหลีกำลังสร้างป้อมปืนอัตโนมัติที่เรียกว่า Super aEgis II ใช้กล้องถ่ายภาพความร้อนและเครื่องวัดระยะด้วยเลเซอร์เพื่อตรวจจับและโจมตีเป้าหมายที่อยู่ห่างออกไป 3 กิโลเมตร มีรายงานว่าสหรัฐฯ กำลังทดลองระบบขีปนาวุธอัตโนมัติ

ห่างจาก "เทอร์มิเนเตอร์" สองขั้นตอน

โดรนทางการทหารอย่าง Predator นั้นถูกควบคุมโดยมนุษย์ในขณะนี้ แต่การิปายกล่าวว่าพวกมันจะกลายเป็นแบบอัตโนมัติเต็มรูปแบบและเป็นอิสระในเร็วๆ นี้ และเป็นห่วงเขา อย่างสูง “ระบบอาวุธอัตโนมัติที่ร้ายแรงสามารถหลุดออกจากสายการผลิตได้แล้ว แต่ระบบอาวุธร้ายแรงที่จะผลิตตามมาตรฐานทางจริยธรรมนั้นไม่มีแม้แต่ในแผน

สำหรับ Garipai ปัญหาอยู่ที่สิทธิระหว่างประเทศ มีสถานการณ์ในสงครามเสมอที่การใช้กำลังดูเหมือนจำเป็น แต่ก็อาจเป็นอันตรายต่อผู้ยืนดูผู้บริสุทธิ์ได้เช่นกัน จะสร้างหุ่นยนต์นักฆ่าที่จะตัดสินใจได้อย่างถูกต้องในทุกสถานการณ์ได้อย่างไร? เราจะทราบได้อย่างไรว่าทางออกที่ถูกต้องควรเป็นอย่างไร?

เราเห็นปัญหาที่คล้ายกันในตัวอย่างของการขนส่งอัตโนมัติแล้ว สมมุติว่าสุนัขข้ามถนน รถหุ่นยนต์ควรหักเลี้ยวเพื่อไม่ให้ชนสุนัข แต่ให้ผู้โดยสารตกอยู่ในความเสี่ยงหรือไม่? เกิดอะไรขึ้นถ้าไม่ใช่สุนัข แต่เป็นเด็ก? หรือรถบัส? ตอนนี้ลองนึกภาพเขตสงคราม

“เราไม่สามารถตกลงกันได้ว่าจะเขียนคู่มือสำหรับรถยนต์คันดังกล่าวอย่างไร” การิไปยกล่าว “และตอนนี้ เรายังต้องการย้ายไปยังระบบที่ควรตัดสินใจอย่างอิสระว่าจะใช้กำลังสังหารหรือไม่”

ทำของเจ๋งๆ ไม่ใช่อาวุธ

Peter Asaro ใช้เวลาไม่กี่ปีที่ผ่านมาในการรณรงค์เพื่อห้ามหุ่นยนต์นักฆ่าในประชาคมระหว่างประเทศ โดยเป็นผู้ก่อตั้งคณะกรรมการระหว่างประเทศเพื่อการควบคุมกองทัพหุ่นยนต์ เขาเชื่อว่าถึงเวลาแล้วสำหรับ "การห้ามที่ชัดเจนในระดับสากลเกี่ยวกับการพัฒนาและการใช้งาน" สิ่งนี้จะช่วยให้บริษัทต่างๆ เช่น Clearpath ทำสิ่งที่ยิ่งใหญ่ต่อไปโดยไม่ต้องกังวลว่าผลิตภัณฑ์ของตนจะถูกนำมาใช้เพื่อละเมิดสิทธิมนุษยชนและคุกคามพลเรือน เขากล่าว

ขีปนาวุธอัตโนมัติเป็นที่สนใจของกองทัพเพราะช่วยแก้ปัญหาทางยุทธวิธีได้ เมื่อโดรนควบคุมจากระยะไกล เช่น ทำงานในการต่อสู้ ไม่ใช่เรื่องแปลกที่ฝ่ายตรงข้ามจะขัดขวางเซ็นเซอร์หรือการเชื่อมต่อเครือข่ายเพื่อให้เจ้าหน้าที่ควบคุมมนุษย์มองไม่เห็นว่าเกิดอะไรขึ้นหรือควบคุมโดรน

การิไปกล่าวว่าแทนที่จะพัฒนาขีปนาวุธหรือโดรนที่สามารถตัดสินใจได้เองว่าจะโจมตีเป้าหมายใด กองทัพจำเป็นต้องใช้เงินเพื่อซื้อเซ็นเซอร์และเทคโนโลยีป้องกันการรบกวนที่ดีกว่า

“ทำไมเราไม่ใช้การลงทุนที่ผู้คนต้องการสร้างหุ่นยนต์นักฆ่าอิสระและลงทุนในการปรับปรุงประสิทธิภาพของเทคโนโลยีที่มีอยู่? เขาพูดว่า. “ถ้าเราตั้งเป้าหมายและเอาชนะอุปสรรคนี้ เราก็สามารถทำให้เทคโนโลยีนี้ทำงานเพื่อประโยชน์ของประชาชน ไม่ใช่แค่กองทัพ”

เมื่อเร็ว ๆ นี้การพูดคุยเกี่ยวกับอันตรายของปัญญาประดิษฐ์ก็มีมากขึ้นเช่นกัน กังวลว่า AI ที่หลบหนีจะทำลายชีวิตอย่างที่เรารู้ เมื่อเดือนที่แล้ว Musk ได้บริจาคเงิน 10 ล้านเหรียญให้กับการวิจัยด้านปัญญาประดิษฐ์ หนึ่งในคำถามสำคัญเกี่ยวกับวิธีการที่ AI จะผสานเข้ากับวิทยาการหุ่นยนต์ บางคนเช่น Andrew Ng นักวิจัย Baidu กังวลว่าการปฏิวัติ AI ที่กำลังจะมีขึ้นจะแย่งงานของผู้คน คนอื่นๆ เช่น การิไปย กลัวว่าจะเป็นอันตรายถึงชีวิต

การิเพย์หวังว่าเพื่อนร่วมงาน นักวิทยาศาสตร์ และผู้สร้างเครื่องจักรจะนึกถึงสิ่งที่พวกเขากำลังทำ ดังนั้น Clearpath Robotics จึงเข้าข้างประชาชน “ในขณะที่บริษัทเราไม่สามารถเดิมพัน 10 ล้านดอลลาร์ในเรื่องนี้ได้ แต่เราสามารถเดิมพันชื่อเสียงของเราได้”

David Domingo Jiménez แบ่งปันความลับของการสร้างแบบจำลอง การสร้างพื้นผิว และการจัดแสง Crazy ตัวละครหุ่นยนต์ของเขา

บทนำ

ฉันเชื่อเสมอว่าโครงการส่วนบุคคลควรมีความเป็นมืออาชีพเท่ากับโครงการงาน ด้วยการใช้แบบจำลองโพลีคุณภาพสูง พื้นผิวความละเอียด 8K วัสดุที่สมจริง และการจัดแสงที่เหมาะสมทั้งในเชิงเทคนิคและทางศิลปะ คุณสามารถสร้างตัวละครที่มีเอกลักษณ์เฉพาะตัวพร้อมด้วยตัวละครและฉากในบรรยากาศ หลายอย่างขึ้นอยู่กับการจัดแสงในงาน เพราะมันช่วยจัดวางทุกอย่างในฉากให้ถูกวิธี ขอขอบคุณเป็นพิเศษกับ Victor Loba สำหรับองค์ประกอบ

ขั้นตอนที่ 1: การสร้างแนวคิด

ฉันเอาแนวคิดแรกออกจากหัวของฉัน และเนื่องจากฉันไม่ใช่ศิลปินแนวความคิด ฉันจึงสรุปมันด้วยความช่วยเหลือของตาข่ายพื้นฐานและการอ้างอิงรูปภาพ เลือกขั้นตอนการทำงานที่เหมาะสมและมีประสิทธิภาพที่สุดสำหรับคุณ

ไปป์ไลน์ที่ฉันทำงานด้วยคือการสร้างแบบจำลองตาข่ายพื้นฐาน -> การสร้างแบบจำลองโพลีสูงของวัตถุทั้งหมด -> การสร้าง UV และการสร้างแบบจำลองขั้นสุดท้าย -> การแก้ไข UV และพื้นผิว -> การตั้งค่าวัสดุและแสง -> องค์ประกอบสุดท้ายและการตั้งค่าแสง -> โพสต์

ขั้นตอนที่ 2: การสร้างแบบจำลอง ขั้นตอนที่ 1

รูปภาพแสดงขั้นตอนการสร้างแบบจำลองหุ่นยนต์จากโครงฐานไปจนถึงการแกะสลักใน ZBrush และการปรับโครงสร้างใหม่ อันเป็นผลมาจากการที่เราได้โครงข่ายที่มีการแบ่งย่อยหนึ่งระดับ

เมื่อฉันมีโมเดลพื้นฐานแล้ว ฉันจะเริ่มทำงานกับรายละเอียดทีละตัวทันทีโดยใช้คำสั่ง Extrude, Bevel, Connect Edge และ Shell

ฉันสร้างเมชสุดท้ายโดยใช้รูปหลายเหลี่ยมให้น้อยที่สุดเท่าที่จะเป็นไปได้ ซึ่งต่อมาก็เพิ่มขึ้น ฉันทำงานกับคำสั่ง Editable Poly ด้วยตัวปรับแต่ง Turbosmooth โดยเปิดใช้งานพารามิเตอร์ Show End Result ในตอนท้าย

ขั้นตอนที่ 3: การสร้างแบบจำลอง ขั้นตอนที่ 2

แปรง ZBrush เช่น Standard, Move, Smooth และ ClayBuildup ถูกใช้เพื่อดูรายละเอียดเสื้อผ้าของหุ่นยนต์

แน่นอนว่ามีวิธีการสร้างแบบจำลองที่ซับซ้อนน้อยกว่าที่ช่วยให้คุณใช้รูปหลายเหลี่ยมจำนวนน้อยได้ แต่ในงานนี้มีหลายแผนก นั่นเป็นเหตุผลที่ฉันชอบวิธีที่เร็วที่สุด แม้ว่าจะไม่ใช่วิธีที่ง่ายที่สุดก็ตาม

ฉันใช้ ZBrush เฉพาะสำหรับการตกแต่งเสื้อผ้าด้วยแปรง เช่น Standard, Move, Smooth และ ClayBuildup การใช้มาสก์ก็สำคัญมากเช่นกัน ฉันทำ retopology ใน Topogun

ขั้นตอนที่ 4: สร้าง UV Map

UV Layout ถูกใช้เพื่อสร้าง UVs แผนที่พื้นผิว 4 แผนที่ถูกสร้างขึ้นด้วยขนาดเท่ากันและจำนวนรูปหลายเหลี่ยมเท่ากัน

ในการสร้าง UV ฉันแนะนำให้ใช้ UV Layout เนื่องจากเป็นโปรแกรมที่เสถียรและใช้งานง่าย ก่อนที่คุณจะเริ่มตัดวัตถุ คุณต้องจำไว้ว่ายิ่งตัดแบบจำลองน้อยเท่าไหร่ก็ยิ่งดี โมเดลมักจะตัดในพื้นที่ที่มองเห็นได้น้อยที่สุดสำหรับกล้อง

สำหรับโปรเจ็กต์นี้ ฉันได้สร้างแผนที่ขนาดเดียวกันจำนวน 4 แผนที่โดยมีจำนวนรูปหลายเหลี่ยมเท่ากัน โดยจัดกลุ่มตามวิธีที่เหมาะสมที่สุดสำหรับฉัน เพื่อให้พอดีกับพื้นที่ UV อย่างสะดวกที่สุด ไม่สำคัญสำหรับฉันว่าเปลือกหอยจะวางตำแหน่งอย่างไรในแผนที่ UV เนื่องจากฉันมักจะสร้าง ID-map แยกต่างหากสำหรับวัสดุที่แตกต่างกัน

ขั้นตอนที่ 5: การสร้างพื้นผิว

การสร้างแผนที่พื้นผิวต่างๆ ที่ความละเอียด 8K

ขั้นแรก ฉันสร้างแผนที่ต่างๆ ที่ความละเอียด 8K โดยเฉพาะสำหรับงานนี้ ฉันได้สร้างแผนที่ ID, AO, Displacement, Normal, Cavity และ Snow หากต้องการรับใน 3Ds Max: Rendering -> Render Surface Map ใน ZBrush สามารถรับได้โดยใช้ ZPlugin -> Multi Map Exporter

ขั้นตอนที่ 6: การสร้างพื้นผิวใน Photoshop

ในขั้นตอนนี้ เรากำลังดำเนินการกับ 4 แผนที่พื้นผิวที่มีความละเอียด 8K

แผนที่เหล่านี้ไม่เพียงแต่ใช้สำหรับการลงรายละเอียดพื้นผิวเท่านั้น แต่ยังสะดวกเป็นพิเศษในการทำงานด้วย เนื่องจากไม่จำเป็นต้องออกจาก Photoshop ด้วยเหตุนี้ ฉันจึงสามารถประมาณปริมาณของแบบจำลองของเราได้ด้วยสายตา ตัวละคร Crazy ประกอบด้วยพื้นผิวความละเอียด 4 8K ที่ตรงกับแผนที่ BMP และ SPC

ขั้นตอนที่ 7: ทำงานต่อกับพื้นผิวต่อไป

คุณต้องมีความคิดสร้างสรรค์และทำงานอย่างรวดเร็วเพื่อให้ได้พื้นผิวที่ดี

ฉันทำงานกับพื้นผิวที่เรียงต่อกันขนาดใหญ่อยู่เสมอ เพราะการลดขนาดเริ่มต้นของรูปภาพนั้นง่ายกว่า และการใช้มาสก์นั้นง่ายมากในการซ่อนพื้นที่ที่ไม่ต้องการ คุณต้องมีความคิดสร้างสรรค์และทำงานอย่างรวดเร็วเพื่อให้ได้พื้นผิวที่ดี ในโครงการนี้ ฉันใช้รูปถ่าย

ฉันขอแนะนำให้ใช้ ZBrush, Mudbox หรือ Mari เพื่อวาดพื้นผิวที่ด้านบนของตาข่าย สิ่งสกปรก รอยขีดข่วน สนิมจะเพิ่มความสมจริงให้กับโมเดล 3 มิติ อย่างไรก็ตาม อย่าหักโหมจนเกินไป มิฉะนั้น ผลลัพธ์จะดูแย่มาก ควรรวมการแทรกแซงเพิ่มเติมในแบบจำลองกับวัสดุฐาน เช่น ในกรณีของฉัน กับโลหะ การเคลือบด้วยแม่เหล็ก ทรายและฝุ่น โดยที่เข้ากับโทนสีและแสงที่เข้ากัน

ขั้นตอนที่ 8: การตั้งค่าวัสดุ

การใช้วัสดุทำให้คุณสามารถแยกส่วนต่างๆ ของแบบจำลองออกจากกันได้ด้วยสายตา

ในงานนี้ ฉันใช้วัสดุโลหะต่างๆ (เหล็ก เหล็ก อลูมิเนียม); พลาสติกเคลือบด้านและมันวาว เช่นเดียวกับหนัง ผ้า และยาง วัสดุทั้งหมดเหล่านี้มีเพียง 3 แผนที่พื้นผิวที่กำหนดให้กับพวกเขา: Diffuse, Specular และ Bump ไม่มีวัสดุที่ซับซ้อนในฉาก ยกเว้นหน้าจอทีวีและใบมีดโลหะของขวาน

สำหรับวัสดุทั้งหมด ยกเว้น Reflection Glossiness และ Fresnel Reflections ซึ่งป้อนตัวเลขที่แน่นอน ข้อมูลแสงถูกใช้เป็นหลักสำหรับ Fresnel IOR เช่นเดียวกับข้อมูลสำหรับ Bump

ขั้นตอนที่ 9: การปรับแสงสุดท้าย

การจัดแสงขั้นสุดท้ายควรทำให้บุคลิกของตัวละครกระจ่างขึ้นด้วย

การตั้งค่าแสงขั้นสุดท้ายควรทำให้ตัวละครของตัวละครสว่างขึ้น เหมาะสมกับสภาพแวดล้อม สำหรับตัวละครของฉัน ฉันต้องการสร้างบรรยากาศที่ก้าวร้าว ฉันใช้การจัดแสงตอนกลางคืน ทำให้ฉากสว่างขึ้นเล็กน้อยด้วย HDRI และเพิ่มเอฟเฟกต์ด้วย "ไฟไฟฟ้า" ฉันใช้ VRayLights เพื่อดึงแสงสะท้อนออกมาและลบคอนทราสต์ส่วนเกินออก

ในการกำกับแสงและได้ภาพเงาของตัวละครที่อ่านมาเป็นอย่างดี ฉันใช้สปอตไลท์ นอกจากนี้ พื้นหลังถูกสร้างขึ้นโดยใช้ VrayLightsMaterial สำหรับ SpotLights ฉันใช้พื้นผิว หน้าต่าง และอุปกรณ์อื่นๆ เพื่อกำหนดอาคาร ฉันยังใช้สปอตไลท์เพื่อให้แสงสว่างทั่วทั้งฉาก

VrayLights ถูกใช้เพื่อเพิ่มแสงสะท้อนและขจัดความเปรียบต่างที่มากเกินไป

ขั้นตอนที่ 10: หลังการประมวลผล

ในโครงการประเภทนี้ นี่เป็นขั้นตอนที่สำคัญที่สุด ฉันใช้ฉากในโทนสีเดียว เน้นที่ไฮไลท์ ปรับคอนทราสต์ และเบลอบางส่วนของงานเพื่อสร้างเอฟเฟกต์ของความลึก บังคับให้ผู้ดูโฟกัส ขั้นตอนทั้งหมดนี้สำคัญมากเพื่อให้ได้ผลลัพธ์ที่ดี

ใน Photoshop ฉันทำงานกับ Saturation, Curves และ Levels เพื่อให้ได้เอฟเฟ็กต์โบเก้ จากนั้นฉันก็ตั้งค่าแผนที่พื้นผิวที่จะแสดงผล: การสะท้อนแสง อัลฟ่า และ Specular ส่งผลให้เราได้ภาพที่ซับซ้อนซึ่งถ่ายทอดอารมณ์และประวัติศาสตร์แก่ผู้ชม ด้วยความช่วยเหลือของตัวละคร Crazy ฉันแสดงผลงานทั้งหมดของฉันและรูปแบบศิลปะที่ฉันทำงาน

การรวมตัวของนักวิทยาศาสตร์ ผู้นำในอุตสาหกรรม และ NGOs จำนวนมากได้เริ่มการรณรงค์เพื่อหยุดหุ่นยนต์นักฆ่า ที่อุทิศตนเพื่อป้องกันการพัฒนาระบบอาวุธต่อสู้อัตโนมัติ ในบรรดาผู้ที่ลงทะเบียน ได้แก่ Stephen Hawking, Noam Chomsky, Elon Musk และ Steve Wozniak

ชื่อใหญ่เหล่านี้กำลังได้รับความสนใจอย่างมากและให้ความชอบธรรมกับความจริงที่ว่าหุ่นยนต์นักฆ่าซึ่งเคยถูกมองว่าเป็นนิยายวิทยาศาสตร์กำลังเข้าใกล้ความเป็นจริงอย่างรวดเร็ว

การศึกษาที่น่าสนใจที่ตีพิมพ์ใน International Journal of Cultural Studies ใช้แนวทางที่แตกต่างกับแนวคิด "killer robots" เป็นแนวคิดทางวัฒนธรรม นักวิจัยให้เหตุผลว่าแม้แต่หุ่นยนต์ที่ก้าวหน้าที่สุดก็เป็นแค่เครื่องจักร เช่นเดียวกับทุกสิ่งทุกอย่างที่มนุษย์เคยทำ

“ประเด็นคือ 'หุ่นยนต์นักฆ่า' เป็นความคิดที่ไม่ได้มาจากอากาศ” Tero Karppi ผู้เขียนร่วม ผู้ช่วยศาสตราจารย์ด้านทฤษฎีสื่อแห่งมหาวิทยาลัยบัฟฟาโลกล่าว "สิ่งนี้นำหน้าด้วยวิธีการและเทคโนโลยีเพื่อทำให้การคิดและการพัฒนาระบบเหล่านี้เป็นไปได้"

กล่าวอีกนัยหนึ่ง เรากังวลเกี่ยวกับหุ่นยนต์นักฆ่า ผู้เขียนสำรวจธีมของหุ่นยนต์นักฆ่าในภาพยนตร์เช่น The Terminator หรือ I, Robot ซึ่งพวกเขาแนะนำว่าในอนาคตหุ่นยนต์จะเป็นทาสของมนุษยชาติในที่สุด

“ในช่วงหลายทศวรรษที่ผ่านมา การใช้อาวุธไร้คนขับที่เพิ่มขึ้นได้เปลี่ยนแปลงการทำสงครามอย่างมาก ทำให้เกิดความท้าทายด้านมนุษยธรรมและกฎหมายใหม่ๆ ขณะนี้มีความก้าวหน้าอย่างรวดเร็วในด้านเทคโนโลยีอันเป็นผลมาจากความพยายามในการพัฒนาอาวุธที่เป็นอิสระอย่างเต็มที่ อาวุธหุ่นยนต์เหล่านี้จะมีความสามารถในการยิงเป้าหมายด้วยตัวเอง โดยไม่ต้องมีมนุษย์เข้ามาแทรกแซง"

นักวิจัยตอบว่าสถานการณ์ dystopian ที่ตื่นตระหนกเหล่านี้สะท้อนถึงโลกทัศน์ "ที่กำหนดขึ้นทางเทคโนโลยี" ซึ่งระบบเทคโนโลยีได้รับเอกราชมากเกินไป ซึ่งอาจกลายเป็นการทำลายล้างไม่เพียง แต่สำหรับสังคม แต่สำหรับเผ่าพันธุ์มนุษย์ทั้งหมด

แต่ถ้าเราเขียนรหัสปัญญาของเครื่องจักรในลักษณะที่หุ่นยนต์ไม่สามารถแยกแยะความแตกต่างระหว่างมนุษย์กับเครื่องจักรได้ล่ะ นี่เป็นแนวคิดที่น่าสนใจ: ถ้าไม่มี "เรา" และ "พวกเขา" ก็ไม่มี "เราที่ต่อต้านพวกเขา"

อันที่จริง Karppi แนะนำว่าเราอาจสามารถควบคุมวิธีที่เครื่องจักรในอนาคตจะคิดเกี่ยวกับมนุษย์ในระดับพื้นฐาน

หากเราต้องการเปลี่ยนแปลงในการพัฒนาระบบเหล่านี้ ถึงเวลาแล้ว เพียงแบนอาวุธที่ทำลายล้างอัตโนมัติและจัดการกับสาเหตุของภาวะที่กลืนไม่เข้าคายไม่ออกนี้ เพื่อหลีกเลี่ยงการพัฒนาเครื่องจักรสังหารอัตโนมัติอย่างแท้จริง

ในขณะที่นายกรัฐมนตรี Dmitry Medvedev และ Arkady Volozh กำลังขับรถ Yandex.Taxi ไร้คนขับไปรอบๆ Skolkovo วิศวกรทางทหารกำลังหาวิธีปรับเทคโนโลยีของยานพาหนะไร้คนขับเพื่อสร้างอาวุธใหม่

อันที่จริง เทคโนโลยีไม่ใช่สิ่งที่ดูเหมือน ปัญหาของวิวัฒนาการทางเทคโนโลยีทั้งหมดคือเส้นแบ่งระหว่างหุ่นยนต์เชิงพาณิชย์ "เพื่อชีวิต" กับหุ่นยนต์นักฆ่าของกองทัพนั้นบางอย่างไม่น่าเชื่อ และไม่ต้องเสียค่าใช้จ่ายใดๆ ในการข้าม จนถึงตอนนี้ พวกเขาเลือกเส้นทางของการเคลื่อนไหว และพรุ่งนี้พวกเขาจะสามารถเลือกเป้าหมายที่จะทำลายได้

นี่ไม่ใช่ครั้งแรกในประวัติศาสตร์ที่ความก้าวหน้าทางเทคโนโลยีก่อให้เกิดคำถามถึงการมีอยู่ของมนุษยชาติ ประการแรก นักวิทยาศาสตร์ได้สร้างอาวุธเคมี ชีวภาพ และอาวุธนิวเคลียร์ ซึ่งปัจจุบันเรียกว่า "อาวุธอัตโนมัติ" นั่นคือหุ่นยนต์ ข้อแตกต่างเพียงอย่างเดียวคือจนถึงขณะนี้ อาวุธที่ "ทำลายล้างสูง" ถือว่าไร้มนุษยธรรม นั่นคือพวกเขาไม่ได้เลือกว่าจะฆ่าใคร ทุกวันนี้ มุมมองเปลี่ยนไปแล้ว ดูเหมือนอาวุธที่ผิดศีลธรรมมากขึ้นจะเป็นอาวุธที่จะฆ่าด้วยการเลือกปฏิบัติเป็นพิเศษ โดยเลือกเหยื่อตามรสนิยมของตัวเอง และหากพลังของสงครามหยุดลงโดยข้อเท็จจริงที่ว่า ถ้ามันใช้อาวุธชีวภาพ ทุกคนที่อยู่รอบๆ จะต้องทนทุกข์ เมื่อนั้นกับหุ่นยนต์ ทุกอย่างก็ยากขึ้น - พวกมันสามารถตั้งโปรแกรมให้ทำลายวัตถุบางกลุ่มได้

ในปี 1942 เมื่อนักเขียนชาวอเมริกัน Isaac Asimov ได้กำหนดกฎสามข้อของวิทยาการหุ่นยนต์ ทุกอย่างดูน่าตื่นเต้น แต่ไม่สมจริงเลย กฎหมายเหล่านี้ระบุว่าหุ่นยนต์ไม่สามารถและต้องไม่ทำร้ายหรือฆ่ามนุษย์ และพวกเขาต้องเชื่อฟังความประสงค์ของมนุษย์โดยไม่มีข้อสงสัย ยกเว้นในกรณีที่คำสั่งของเขาจะขัดต่อความจำเป็นข้างต้น ตอนนี้อาวุธอัตโนมัติได้กลายเป็นความจริงและอาจตกอยู่ในมือของผู้ก่อการร้ายแล้ว แต่กลับกลายเป็นว่าโปรแกรมเมอร์ลืมใส่กฎหมายของอาซิมอฟลงในซอฟต์แวร์ของตน ซึ่งหมายความว่าหุ่นยนต์อาจเป็นอันตรายได้ และไม่มีกฎหมายหรือหลักการที่มีมนุษยธรรมใดมาหยุดยั้งพวกมันได้

ขีปนาวุธที่ออกแบบโดยเพนตากอนสามารถตรวจจับเป้าหมายได้ด้วยตัวเองด้วยซอฟต์แวร์ ปัญญาประดิษฐ์ (AI) ระบุเป้าหมายของกองทัพอังกฤษ และรัสเซียกำลังแสดงรถถังไร้คนขับ เงินทุนมหาศาลถูกใช้ไปเพื่อพัฒนายุทโธปกรณ์ทางทหารแบบหุ่นยนต์และแบบอิสระในหลายประเทศ แม้ว่าจะมีเพียงไม่กี่คนที่อยากเห็นมันใช้งานจริง เช่นเดียวกับที่นักเคมีและนักชีววิทยาส่วนใหญ่ไม่สนใจว่าการค้นพบของพวกเขาจะถูกนำไปใช้เพื่อสร้างอาวุธเคมีหรืออาวุธชีวภาพ นักวิจัย AI ส่วนใหญ่จึงไม่สนใจที่จะสร้างอาวุธที่มีพื้นฐานจากอาวุธเหล่านี้ เพราะเมื่อเสียงโวยวายจากสาธารณะชนอย่างร้ายแรงจะสร้างความเสียหายต่อโครงการวิจัยของพวกเขา

ในการกล่าวสุนทรพจน์เมื่อเริ่มการประชุมสมัชชาใหญ่แห่งสหประชาชาติในนิวยอร์กเมื่อวันที่ 25 กันยายน เลขาธิการ António Guterres เรียกเทคโนโลยี AI ว่าเป็น "ความเสี่ยงระดับโลก" ควบคู่ไปกับการเปลี่ยนแปลงสภาพภูมิอากาศและความไม่เท่าเทียมกันของรายได้ที่เพิ่มขึ้น: "เรียกจอบว่าจอบ" เขาพูดว่า. “โอกาสที่เครื่องจักรจะตัดสินว่าใครมีชีวิตที่น่าขยะแขยง” Guterres น่าจะเป็นคนเดียวที่สามารถเรียกร้องให้กองทัพเปลี่ยนใจ: ก่อนหน้านี้เขาจัดการกับความขัดแย้งในลิเบีย เยเมน และซีเรีย และทำหน้าที่เป็นข้าหลวงใหญ่ผู้ลี้ภัย

ปัญหาคือด้วยการพัฒนาเทคโนโลยีต่อไป หุ่นยนต์เองจะสามารถตัดสินใจได้ว่าใครจะฆ่า และหากบางประเทศมีเทคโนโลยีดังกล่าว ในขณะที่บางประเทศไม่มี แอนดรอยด์และโดรนที่แน่วแน่จะกำหนดผลลัพธ์ของการต่อสู้ที่อาจเกิดขึ้นล่วงหน้า ทั้งหมดนี้ขัดแย้งกับกฎของอาซิมอฟทั้งหมดในเวลาเดียวกัน ผู้เตือนภัยอาจกังวลอย่างจริงจังว่าโครงข่ายประสาทเทียมแบบเรียนรู้ด้วยตนเองจะควบคุมไม่ได้และไม่เพียงฆ่าศัตรูเท่านั้น แต่ยังรวมถึงทุกคนโดยทั่วไปด้วย อย่างไรก็ตามความคาดหวังของเครื่องจักรนักฆ่าที่เชื่อฟังค่อนข้างจะไม่ค่อยสดใส

งานที่ใช้งานมากที่สุดในด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิงในปัจจุบันไม่ได้อยู่ในกองทัพ แต่อยู่ในแวดวงพลเรือน - ในมหาวิทยาลัยและบริษัทต่างๆ เช่น Google และ Facebook แต่เทคโนโลยีส่วนใหญ่นี้สามารถปรับให้เข้ากับการใช้งานทางการทหารได้ ซึ่งหมายความว่าการห้ามไม่ให้มีการวิจัยในพื้นที่นี้จะส่งผลกระทบต่อการพัฒนาพลเรือนด้วย

ในช่วงต้นเดือนตุลาคม แคมเปญ Stop the Killer Robots ซึ่งเป็นองค์กรนอกภาครัฐของสหรัฐฯ ได้ส่งจดหมายถึงสหประชาชาติเพื่อเรียกร้องให้มีการควบคุมการพัฒนาอาวุธอัตโนมัติในระดับสากล สหประชาชาติได้แสดงไว้อย่างชัดเจนว่าสนับสนุนความคิดริเริ่มนี้ และในเดือนสิงหาคม 2017 Elon Musk และผู้เข้าร่วมการประชุมนานาชาติของสหประชาชาติว่าด้วยการใช้ปัญญาประดิษฐ์ (IJCAI) ได้เข้าร่วมด้วย แต่ในความเป็นจริง สหรัฐฯ และรัสเซียคัดค้านข้อจำกัดดังกล่าว

การประชุมครั้งล่าสุดของประเทศสมาชิก 70 ประเทศของอนุสัญญาว่าด้วยอาวุธทั่วไป (เกี่ยวกับอาวุธที่ "ไร้มนุษยธรรม") ได้จัดขึ้นที่เจนีวาในเดือนสิงหาคม นักการทูตล้มเหลวในการบรรลุฉันทามติเกี่ยวกับวิธีการนำนโยบาย AI ทั่วโลกไปปฏิบัติ บางประเทศ (อาร์เจนตินา ออสเตรีย บราซิล ชิลี จีน อียิปต์ และเม็กซิโก) แสดงการสนับสนุนการออกกฎหมายห้ามไม่ให้มีการพัฒนาอาวุธหุ่นยนต์ โดยฝรั่งเศสและเยอรมนีเสนอให้แนะนำระบบความสมัครใจของข้อจำกัดดังกล่าว แต่รัสเซีย สหรัฐอเมริกา ภาคใต้ เกาหลีและอิสราเอลกล่าวว่าพวกเขาจะไม่จำกัดการวิจัยและพัฒนาที่กำลังดำเนินการในพื้นที่นี้ ในเดือนกันยายน Federica Mogherini เจ้าหน้าที่นโยบายต่างประเทศและความมั่นคงระดับสูงของสหภาพยุโรปกล่าวว่าอาวุธ "ส่งผลกระทบต่อความมั่นคงโดยรวมของเรา" และชีวิตและความตายจะต้องอยู่ในมือของบุคคลต่อไป

สงครามเย็น 2018

เจ้าหน้าที่กลาโหมของสหรัฐฯ กล่าวว่าสหรัฐฯ ต้องการอาวุธอิสระเพื่อรักษาความได้เปรียบทางทหารของตนเหนือจีนและรัสเซีย ซึ่งกำลังลงทุนในการวิจัยที่คล้ายคลึงกัน ในเดือนกุมภาพันธ์ 2561 โดนัลด์ ทรัมป์ เรียกร้องเงิน 686 พันล้านดอลลาร์เพื่อการป้องกันประเทศในปีงบประมาณหน้า ค่าใช้จ่ายเหล่านี้ค่อนข้างสูงมาโดยตลอดและลดลงภายใต้ประธานาธิบดีคนก่อนบารัคโอบามาเท่านั้น อย่างไรก็ตาม ทรัมป์ - โดยไม่ได้ตั้งใจ - โต้แย้งความจำเป็นในการเพิ่มพวกเขาโดยการแข่งขันทางเทคโนโลยีกับรัสเซียและจีน ในปี 2559 เพนตากอนใช้งบประมาณ 18,000 ล้านดอลลาร์สำหรับการพัฒนาอาวุธอิสระในระยะเวลาสามปี นี้ไม่มาก แต่ที่นี่คุณต้องคำนึงถึงปัจจัยหนึ่งที่สำคัญมาก

การพัฒนาส่วนใหญ่ในด้าน AI ในสหรัฐอเมริกานั้นดำเนินการโดยบริษัทการค้า ดังนั้นจึงมีจำหน่ายในวงกว้างและสามารถขายในเชิงพาณิชย์ให้กับประเทศอื่นๆ เพนตากอนไม่ได้ผูกขาดเทคโนโลยีแมชชีนเลิร์นนิ่งขั้นสูง อุตสาหกรรมการป้องกันประเทศของอเมริกาไม่ได้ดำเนินการวิจัยของตนเองในลักษณะที่ทำในช่วงสงครามเย็นอีกต่อไป แต่ใช้ความสำเร็จของการเริ่มต้นธุรกิจจาก Silicon Valley รวมถึงยุโรปและเอเชีย ในเวลาเดียวกันในรัสเซียและจีนการวิจัยดังกล่าวอยู่ภายใต้การควบคุมอย่างเข้มงวดของแผนกป้องกันประเทศซึ่งในอีกด้านหนึ่ง จำกัด การไหลเข้าของแนวคิดใหม่ ๆ และการพัฒนาเทคโนโลยี แต่ในทางกลับกันรับประกันรัฐ เงินทุนและการคุ้มครอง

The New York Times ประมาณการว่าการใช้จ่ายทางทหารสำหรับยานพาหนะทางทหารที่เป็นอิสระและยานพาหนะทางอากาศไร้คนขับจะเกิน 120 พันล้านดอลลาร์ในทศวรรษหน้า ซึ่งหมายความว่าในท้ายที่สุดแล้ว การอภิปรายไม่ได้ขึ้นอยู่กับว่าจะสร้างอาวุธอิสระหรือไม่ แต่ขึ้นอยู่กับระดับความเป็นอิสระที่จะมอบให้พวกเขา

ทุกวันนี้ อาวุธอัตโนมัติแบบไร้คนขับไม่มีอยู่จริง แต่ พล.อ.พอล เจ. เซลวา รองประธานกรรมการกองทัพอากาศ ระบุเมื่อปี 2559 ว่าใน 10 ปีข้างหน้า สหรัฐฯ จะมีเทคโนโลยีสร้างอาวุธดังกล่าวที่สามารถตัดสินใจได้ เป็นเจ้าของใครและเมื่อจะฆ่า และในขณะที่ประเทศต่างๆ ถกเถียงกันว่าจะจำกัด AI หรือไม่ ก็อาจสายเกินไป

Dmitry Melkin และ Pavel และ Boris Lonkin ไม่ได้มีคำถามว่าใครควรเข้าร่วมทีมในการต่อสู้กับหุ่นยนต์ พวกเขารู้จักกันจาก Baumanka จากนั้นพวกเขาก็ประกอบและติดตั้งโรงไฟฟ้าพลังงานแสงอาทิตย์ อยู่มาวันหนึ่ง Dmitry เห็นประกาศเกี่ยวกับการแข่งขันหุ่นยนต์และสมัคร เพื่อน ๆ สนับสนุนความคิดริเริ่มและอีกหนึ่งเดือนต่อมาหุ่นยนต์ต่อสู้ตัวแรกของทีม Solarbot Brontosaurus ก็ยืนอยู่ในโรงรถ

หุ่นยนต์ตัวแรกเป็นก้อน

บรอนโทซอรัสมีน้ำหนักรวมศูนย์ และตามที่ผู้สร้างยอมรับในตอนนี้ ไม่ได้มีความแตกต่างจากโซลูชันการออกแบบที่น่าเชื่อถือและชาญฉลาด ไม่น่าแปลกใจเลย: มันถูกประกอบขึ้นด้วยความตั้งใจ ส่วนหนึ่งเป็นภาพหน้าจอที่คลุมเครือจากวิดีโอจากการแข่งขัน English Robot Wars

หลังจากบรอนโทซอรัส เมื่อนับและทำซ้ำโหนดหลักหลายครั้ง Dmitry, Boris และ Pavel ได้รวบรวมหุ่นยนต์ตัวที่สองของพวกเขา เพื่อความคล้ายคลึงกับเปลือกหอย มันถูกเรียกว่า เชลบี จากเชลล์ภาษาอังกฤษ - "เชลล์" Shelby ลูกชายของความผิดพลาดอันยากลำบาก เอาชนะทุกคนที่ "Battle of Robots - 2016" ใน Perm ซึ่งจัดโดยสถาบันเทคโนโลยีมอสโก (MIT) และ Promobot จากนั้นเมื่อรวมกับเครื่องจักรของทีมรัสเซียอีกสองทีมกลายเป็น เข้าร่วมการแข่งขันระดับนานาชาติในประเทศจีน หุ่นยนต์ที่ชนะทำงานอย่างไรและราคาเท่าไหร่ในการสร้าง ผู้สร้างบอก

Dmitry ผู้สร้างแรงบันดาลใจในอุดมคติและแจ็คของการค้าทั้งหมด:

“ความภาคภูมิใจอันยิ่งใหญ่ของเราคือแชสซีของ Shelby เราเล่นซอกับอุปกรณ์วิ่งของรุ่นก่อนอย่างแท้จริงหลังจากการต่อสู้แต่ละครั้ง เมื่อเราทำ Shelby แชสซีก็ถูกเปลี่ยน แยกออก และประกอบใหม่หลายครั้ง แต่ตอนนี้ คุณสามารถลืมมันไปได้เลย ในโครงการในอนาคต เราจะต้องทำงานเพื่อรักษาความน่าเชื่อถือและเพิ่มพลังเท่านั้น คงจะดี ตัวอย่างเช่น ถ้าหุ่นยนต์ตัวใหม่ของเราไม่สามารถเคลื่อนย้ายหุ่นยนต์ศัตรูตัวเดียว แต่สองตัวพร้อมกัน”

โซ่ของเชลบีมาจากจักรยานยนต์ ล้อมาจากรถแข่ง และมอเตอร์ไฟฟ้ามาจากรถยนต์รุ่นที่ควบคุมด้วยวิทยุ ไม่มีการผลิตชิ้นส่วนสำหรับหุ่นยนต์ต่อสู้ ดังนั้นคุณต้องมองหาชิ้นส่วนเหล่านี้ในตลาดนัดและทางอินเทอร์เน็ต ชิ้นส่วนที่ดีมีราคาแพงมาก และนักออกแบบมักจะผลิตขึ้นเอง

Boris นักออกแบบ ทนทาน:

“เชลบี้เป็นนกชนิดหนึ่งที่เรียกว่า “ฟลิปเปอร์” ติดตั้งระบบนิวแมติกที่ดันฝาขึ้นอย่างแรง นี่คืออาวุธหลักของหุ่นยนต์และวิธีการทรงตัว: โดยการพลิกตัว มันสามารถพลิกตัวด้วยการเหวี่ยงเพียงครั้งเดียวและยืนบนล้อได้ แต่เราไม่สามารถสร้างแรงดันสูงในกระบอกสูบนิวแมติกเพื่อให้การกระแทกของฝาครอบมีประสิทธิภาพ - ไม่มีวาล์วที่จำเป็น เหลือเพียงสิ่งเดียวที่จะทำให้ระบบทำงานโดยเร็วที่สุด การแก้ปัญหากลายเป็นเรื่องง่าย: เรากำจัดความต้านทานไฮดรอลิกส่วนเกินและปรับเปลี่ยนวาล์วของโรงงาน ในอนาคตจำเป็นต้องมีวาล์วแรงดันสูง สำเร็จรูปมีราคาแพงประมาณ 200,000 รูเบิลดังนั้นตอนนี้เรากำลังคิดเกี่ยวกับการออกแบบของเราเอง

หุ่นยนต์ต่อสู้ไม่ใช่งานอดิเรกราคาถูก: คุณต้องมีอย่างน้อย 200-300,000 rubles บวกกับวัสดุสิ้นเปลือง ล้ออะไหล่ และทุกอย่างที่พังและถูกแทนที่ในการต่อสู้ และนั่นไม่ได้คำนึงถึงเวลาและความพยายามที่เกี่ยวข้อง “ในการประกอบหุ่นยนต์ ทีมงานสามคนจำเป็นต้องหยุดทำงานเป็นเวลาสองเดือน” วิศวกรของ Solarbot หัวเราะ ไม่สามารถประหยัดได้แม้ในการบรรจุแบบอิเล็กทรอนิกส์

พาเวล โปรแกรมเมอร์:

“ข้อได้เปรียบหลักของอุปกรณ์อิเล็กทรอนิกส์ของ Shelby คือมีอุปกรณ์เพียงไม่กี่ชิ้นเท่านั้น เพื่อไม่ให้หยิบหัวแร้งหลังจากการต่อสู้แต่ละครั้ง คุณต้องจัดหา "สมอง" ขั้นต่ำที่จำเป็นให้หุ่นยนต์ Shelby มีตัวควบคุมจากโรงงานที่เรียบง่าย และมีเพียงวาล์วเท่านั้นที่ควบคุมโดยบอร์ดขนาดเล็ก มันยากมากที่จะปิดการใช้งาน แม้แต่ในประเทศจีน แทนที่จะใช้แบตเตอรี่ตะกั่วทั่วไป เราก็ได้รับแบตเตอรี่ลิเธียมอันทรงพลังและสายไฟก็ทนไม่ได้หลังจากผ่านไปสองสามนาที แต่อุปกรณ์อิเล็กทรอนิกส์ของหุ่นยนต์ก็ไม่ได้รับผลกระทบ”

หุ่นยนต์ต่อสู้ Shelby

ความเร็วสูงสุด 25 กม./ชม. ความพยายามบนก้านสูบลม 2 ตัน กำลังเครื่องยนต์ 2.2 kW สต็อกของช็อตนิวแมติกโดยไม่ต้องเปลี่ยนกระบอกสูบ 30−35 รีโมทคอนโทรลและตัวเครื่องทำจากโปรไฟล์โลหะเท่านั้น

ทีม Solarbot ได้สร้างทหารเหล็กที่แข็งแกร่ง แต่ก็มีขีดจำกัดด้านความแข็งแกร่งด้วยเช่นกัน ในประเทศจีน เขาต้องทนทุกข์ทรมานจากมีดหมุนของนักปั่นชาวจีน ในระดับการใช้งาน - จากกรงเล็บของหุ่นยนต์มาตังก้า ซึ่งตัดโปรไฟล์โลหะอย่างเนยที่มีกำลังแปดตัน มีบาดแผลที่ซี่โครงเหล็กของเขา ผู้สร้างกำลังเตรียมชะตากรรมของการจัดแสดงสำหรับเขา: เขาจะเข้าร่วมในเทศกาล (ฤดูร้อน Geek Picnic อยู่ในอนาคตอันใกล้นี้) และนักสู้คนใหม่จะเข้ามาแทนที่เขาในเวที - ยังเป็นนกฟลิปเปอร์เท่านั้นที่เร็วกว่า ทรงพลังกว่า และ น่าเชื่อถือมากยิ่งขึ้น แรงยกของฝาจะเป็นสองเท่าของ Shelby กำลังมอเตอร์จะเพิ่มขึ้นจาก 2.2 เป็น 2.8 kW และความเร็วจะเพิ่มขึ้น ด้วยหุ่นยนต์ตัวใหม่ ทีมรัสเซียใฝ่ฝันที่จะไป Robot Wars ในอังกฤษ

แต่ฟลิปเปอร์ในอนาคตไม่ใช่ความฝันสูงสุดของ Solarbot ตอนนี้มิทรีกำลังเจรจากับทีมอื่นและมองหาสปอนเซอร์: หากทุกอย่างเป็นไปด้วยดี "เมกะบอท" ตัวแรกจะปรากฏในรัสเซีย - ใหญ่และน่ากลัวเหมือนสัตว์ประหลาดหลายตันของญี่ปุ่น, อเมริกาและจีน

ด้วยการสนับสนุนของสถาบันเทคโนโลยีมอสโก รัสเซียได้เข้าร่วมการแข่งขันหุ่นยนต์ต่อสู้ระดับนานาชาติ FMB Championship 2017 ในประเทศจีนเป็นครั้งแรก การต่อสู้ครั้งนี้เป็นเจ้าภาพโดยเชลบี้ ผู้ทำลายล้างจากคาซาน และพลังงานจากเซนต์ปีเตอร์สเบิร์ก ซึ่งผ่านเข้าสู่รอบรองชนะเลิศ