กองทัพได้ประกาศอย่างเป็นทางการถึงมาตรการป้องกันขั้นรุนแรงที่จะใช้ในอนาคต ในขณะที่ยังคงเดินหน้าวิจัยและลงทุนในปัญญาประดิษฐ์ ซึ่งเป็นเทคโนโลยีที่เพนตากอนคิดว่าจะเป็นหัวใจสำคัญของความแข็งแกร่งทั่วโลก“เดิมพันสำหรับการยอมรับ AI นั้นสูง” พลอากาศโท แจ็ค ชานาฮาน ผู้อำนวยการศูนย์ปัญญาประดิษฐ์ร่วมกล่าวเมื่อวันจันทร์ที่เพนตากอน “AI เป็นเทคโนโลยีเกิดใหม่ที่ทรงพลังและช่วยให้เกิดการเปลี่ยนแปลงอย่างรวดเร็ว ซึ่งเปลี่ยนแปลงวัฒนธรรม สังคม และในที่สุด
แม้กระทั่งการต่อสู้ในสงคราม ไม่ว่าจะเป็นในทางบวกหรือทางลบ
ขึ้นอยู่กับแนวทางของเราในการยอมรับและใช้งาน ความซับซ้อนและความเร็วของสงครามจะเปลี่ยนไปเมื่อเราสร้างกองกำลังที่พร้อมใช้ AI แห่งอนาคต เราเป็นหนี้คนอเมริกันและชายหญิงในเครื่องแบบของเราในการรับหลักการ AI ที่สะท้อนถึงค่านิยมของประเทศของเรา”
Mark Esper รัฐมนตรีกลาโหมได้ลงนามอย่างเป็นทางการในบันทึกข้อตกลงจริยธรรม AI 5 ข้อ ซึ่งจะครอบคลุมทุกอย่างตั้งแต่การพัฒนาเทคโนโลยีไปจนถึงข้อมูลที่ใช้ไปจนถึงวิธีการนำเทคโนโลยีไปใช้
Insight by Tanium: เอเจนซีกำลังฝึกฝนวิธีที่ดีที่สุดในการรักษาความปลอดภัยซอฟต์แวร์และมองเห็นซัพพลายเออร์ได้ดีขึ้น เราพูดคุยกับผู้นำจาก DoD, FDA, GSA, NASA และรัฐเพื่อเปิดเผยว่าหน่วยงานต่าง ๆ ตอบสนองความต้องการในการมองเห็นแนวทางปฏิบัติทางไซเบอร์ของผู้ขายได้อย่างไร
หลักการต่างๆ อิงตามคำแนะนำจากการศึกษา ระยะเวลา 15 เดือน โดย Defense Innovation Board ซึ่งเป็นคณะผู้เชี่ยวชาญด้านวิทยาศาสตร์และเทคโนโลยีจากภาคอุตสาหกรรมและสถาบันการศึกษา
รับผิดชอบ: บุคลากรของ DoD จะใช้วิจารณญาณและการดูแล
ในระดับที่เหมาะสม ในขณะที่ยังคงรับผิดชอบในการพัฒนา การปรับใช้ และการใช้ความสามารถของ AI
ความเสมอภาค: แผนกจะดำเนินการโดยเจตนาเพื่อลดอคติที่ไม่ได้ตั้งใจในความสามารถของ AI
ตรวจสอบย้อนกลับได้: ความสามารถด้าน AI ของแผนกจะได้รับการพัฒนาและปรับใช้เพื่อให้บุคลากรที่เกี่ยวข้องมีความเข้าใจที่เหมาะสมเกี่ยวกับเทคโนโลยี กระบวนการพัฒนา และวิธีการปฏิบัติงานที่ใช้กับความสามารถของ AI รวมถึงวิธีการที่โปร่งใสและตรวจสอบได้ แหล่งข้อมูล ขั้นตอนการออกแบบและเอกสารประกอบ
เชื่อถือได้: ความสามารถด้าน AI ของแผนกจะมีการใช้งานที่ชัดเจนและชัดเจน และความปลอดภัย การรักษาความปลอดภัย และประสิทธิผลของความสามารถดังกล่าวจะอยู่ภายใต้การทดสอบและการรับประกันภายในการใช้งานที่กำหนดไว้ตลอดวงจรชีวิตทั้งหมด
Governable: แผนกจะออกแบบและสร้างความสามารถของ AI เพื่อให้บรรลุหน้าที่ที่ตั้งใจไว้ ในขณะที่มีความสามารถในการตรวจจับและหลีกเลี่ยงผลกระทบที่ไม่ได้ตั้งใจ และความสามารถในการปลดหรือปิดการใช้งานระบบที่ปรับใช้ซึ่งแสดงพฤติกรรมที่ไม่ได้ตั้งใจ
ความหมายสำหรับการพัฒนาและการใช้ AI ภายในแผนกนั้นยังคงต้องรอดูกันต่อไป Dana Deasy หัวหน้าเจ้าหน้าที่ฝ่ายข้อมูลของ Shanahan และ DoD กล่าวว่าวิธีที่กองทัพตอบสนองต่อหลักการเหล่านี้จะพัฒนาไปพร้อมกับการใช้และการพัฒนา AI Deasy กล่าวว่าไม่มีสิ่งที่เรียกว่าจุดสิ้นสุด แต่ DoD จะเรียนรู้ต่อไป
อย่างไรก็ตาม เจตนาบางประการของ DoD พร้อมหลักการมีความชัดเจนตั้งแต่เริ่มต้น
“มันเกี่ยวกับการทำความเข้าใจว่าหลักการด้านจริยธรรมเหล่านี้จำเป็นต้องใช้” Shanahan กล่าว “มันจะเป็นทุกอย่างที่ข้อมูลของคุณมาจากไหน? ข้อมูลมีลักษณะอย่างไร เป็นตัวแทนของข้อมูลขนาดตัวอย่างที่เล็กมากแทนที่จะเป็นชุดข้อมูลที่หลากหลายซึ่งจำเป็นต่อการพัฒนาอัลกอริทึมที่มีประสิทธิภาพ ไปจนถึงการทดสอบและประเมินผล เราต้องทำอะไรเพื่อแสดงว่าเรากำลังปฏิบัติตามหลักการห้าประการที่เชื่อถือได้”
อ่านเพิ่มเติม: ข่าวกลาโหม
ชานาฮานกล่าวว่าเมื่อแผนกมีความสามารถ แผนกก็จะเป็นตัวแทนของหลักการ
“สิ่งนี้จะนำมาซึ่งโครงสร้างและระเบียบวินัยมากขึ้นสำหรับวิธีที่เราดำเนินการเกี่ยวกับการสร้างโซลูชัน การจัดหาโซลูชันภาคสนาม และการดำเนินการอย่างต่อเนื่องของโซลูชันเหล่านั้น” Deasy กล่าว
จริยธรรมจะทำให้ผู้คนในท่อส่ง AI ต้องรับผิดชอบด้วย ตัวอย่างเช่น หากนักพัฒนาซอฟต์แวร์ไม่ใช้ข้อมูลที่มีความเท่าเทียมกัน DoD จะรู้ว่ามีข้อผิดพลาดตรงไหนที่จะต้องรับผิดชอบบุคคลนั้น
กระทรวงกลาโหมกำลังดำเนินการจัดตั้งคณะกรรมการบริหาร AI ซึ่งจะดูแลหลักการและตัดสินใจว่าเมื่อใดที่จำเป็นต้องมีการแทรกแซงของมนุษย์ในวงจรเทคโนโลยี
