กลุ่มคนทำงานด้านเทคโนโลยีที่เรียกร้องให้บริษัทเทคโนโลยีของสหรัฐฯ วางหลักจริยธรรม ก่อนที่ผลกำไรจะพุ่งสูงขึ้นในช่วงไม่กี่วัน ที่ผ่านมา พนักงานของ Googleและ Microsoft ได้กดดันผู้บริหารของบริษัทให้ยกเลิกการประมูลสัญญามูลค่า 10,000 ล้านดอลลาร์เพื่อให้บริการคลาวด์คอมพิวติ้งแก่กระทรวงกลาโหม
เป็นส่วนหนึ่งของสัญญาที่เรียกว่า JEDI วิศวกรจะสร้างที่เก็บข้อมูลบนคลาวด์สำหรับข้อมูลทางการทหาร มีรายละเอียดสาธารณะเล็กน้อยเกี่ยวกับสิ่งอื่นที่จะนำมาซึ่ง แต่มีสิ่งหนึ่งที่ชัดเจน: โครงการนี้จะเกี่ยวข้องกับการใช้ปัญญาประดิษฐ์เพื่อทำให้กองทัพสหรัฐฯ มีอันตรายมากขึ้น
จอห์น กิบ สันหัวหน้าเจ้าหน้าที่บริหารของกระทรวงกลาโหม
กล่าวว่า “โครงการนี้เป็นการเพิ่มความสามารถในการทำลายล้างของแผนกของเรา และจัดหาทรัพยากรที่ดีที่สุดให้กับชายและหญิงในเครื่องแบบ”
มีรายงานว่าพนักงานของ Google หลายพันคนกดดันบริษัทให้ยกเลิกการเสนอราคาสำหรับโครงการนี้ และหลายคนบอกว่าพวกเขาจะปฏิเสธที่จะทำงาน พวกเขาชี้ให้เห็นว่างานดังกล่าวอาจละเมิดนโยบายจริยธรรมใหม่ ของบริษัทเกี่ยว กับการใช้ปัญญาประดิษฐ์ Google ให้คำมั่นว่าจะไม่ใช้ AI ในการผลิต “อาวุธหรือเทคโนโลยีอื่นๆ ที่มีจุดประสงค์หลักหรือนำไปใช้เพื่อก่อให้เกิดหรืออำนวยความสะดวกโดยตรงต่อการบาดเจ็บต่อผู้คน” ซึ่งเป็นนโยบายที่พนักงานของบริษัทได้ผลักดันให้มี .
เมื่อวันที่ 8 ตุลาคม Google ประกาศว่ากำลังถอนตัวจากการแข่งขันสัญญา JEDI ตอนนี้พนักงานของ Microsoft กำลังผลักดันให้ผู้บริหารทำเช่นเดียวกัน
“หากการเจรจาเหล่านี้ไม่มีความโปร่งใส และองค์กรด้านจริยธรรม
ที่คลุมเครือซึ่งชี้ขาดการตัดสินใจทางศีลธรรม การยอมรับสัญญานี้จะทำให้พนักงาน Microsoft โดยเฉลี่ยไม่สามารถทราบได้ว่าพวกเขากำลังเขียนโค้ดที่มีเจตนาทำร้ายและสอดส่องหรือไม่” เขียน กลุ่มพนักงาน Microsoft ไม่ระบุชื่อในจดหมายที่เผยแพร่เมื่อวันศุกร์ (และตรวจสอบแล้ว) โดยสื่อ
An aerial view of the exterior of a Southwest terminal with planes parked all around.
ยังไม่ชัดเจนว่ามีพนักงานกี่คนที่เป็นส่วนหนึ่งของกลุ่ม แต่อาจไม่มีความสำคัญ เนื่องจาก Microsoft ได้ระบุว่าจะไม่ยกเลิกการเสนอราคาในสัญญาการประมวลผลแบบคลาวด์สำหรับเพนตากอน
การประท้วงภายในของบริษัทเทคโนโลยีที่ทรงอิทธิพลที่สุดของอเมริกาบางแห่งสะท้อนให้เห็นถึงความกังวลของพนักงานที่เพิ่มขึ้นเกี่ยวกับผลกระทบทางจริยธรรมของเทคโนโลยีที่พวกเขากำลังพัฒนา การประท้วงบางส่วนของพวกเขาได้รับผลกระทบ คนอื่นไม่ได้ แต่การเรียกร้องของพวกเขาให้ใส่จริยธรรมและค่านิยมไว้ก่อนผลกำไร บังคับให้ Silicon Valley พิจารณาการแตกแขนงทางศีลธรรมของสิ่งที่พวกเขาสร้างขึ้น และไม่ว่าจะเป็นประโยชน์ต่อมนุษยชาติและ ” ส่งเสริมสิทธิมนุษยชนขั้นพื้นฐาน ” หรือทำสิ่งที่ตรงกันข้าม
พนักงานกังวลเรื่องสัญญากับทางราชการ
พนักงานในบริษัทเทคโนโลยีต่างๆ มีความกังวลเกี่ยวกับโครงการประเภทต่างๆ แต่มีสิ่งหนึ่งที่เหมือนกัน นั่นคือ ความกังวลร่วมกันเกี่ยวกับสัญญาของรัฐบาล และความเสี่ยงที่เจ้าหน้าที่ของรัฐจะใช้เทคโนโลยีของตนเพื่อละเมิดสิทธิมนุษยชนขั้นพื้นฐาน ในกรณีที่เลวร้ายที่สุดพวกเขามักจะยกตัวอย่างสัญญาของไอบีเอ็มกับนาซีเยอรมนี ซึ่งบริษัทเทคโนโลยีของอเมริกาได้พัฒนาระบบที่ช่วยให้พวกนาซีจำแนก จัดระเบียบ และสังหารชาวยิว
เทคโนโลยีหนึ่งที่พนักงานกังวลคือซอฟต์แวร์จดจำใบหน้า มีรายงานว่าพนักงานของ Amazon จำนวน 450 คนได้ลงนามในจดหมายขอให้ CEO Jeff Bezos หยุดขายซอฟต์แวร์จดจำใบหน้า Rekognition ให้กับหน่วยงานบังคับใช้กฎหมาย พนักงานของ Amazon ที่ตีพิมพ์ความคิดเห็นที่ไม่เปิดเผยตัวตนในวันอังคารที่ Medium (แพลตฟอร์มเผยแพร่ตรวจสอบผู้เขียน การจ้างงานที่อเมซอน)
“เราไม่สามารถละสายตาจากต้นทุนของมนุษย์ในธุรกิจของเราได้” พนักงานเขียนว่าซอฟต์แวร์นี้เป็น “เทคโนโลยีที่มีข้อบกพร่องซึ่งตอกย้ำอคติที่มีอยู่”
จากการศึกษาของพนักงานของ Amazon
พบว่าซอฟต์แวร์จดจำใบหน้ามักระบุคนผิวคล้ำผิดได้ พนักงานรายนี้อ้างถึงการทดสอบซอฟต์แวร์ Rekognition ของ Amazon เมื่อเร็วๆ นี้โดยสหภาพเสรีภาพพลเรือนอเมริกัน ซึ่งใช้ภาพถ่ายของสมาชิกรัฐสภาทุกคนเทียบกับกลุ่มภาพ Mugshots มีการจับคู่เท็จ 28 รายการและผลลัพธ์ที่ไม่ถูกต้องนั้นสูงขึ้นอย่างไม่สมส่วนสำหรับคนผิวสี แต่ตำรวจในออร์ลันโดกำลังทดสอบโปรแกรมของ Amazonเกี่ยวกับกล้องวงจรปิดในเมือง และ มีรายงานว่า เจ้าหน้าที่ของนายอำเภอในรัฐโอเรกอนกำลังใช้งานภาคสนาม
ความเสี่ยงที่อาจเกิดขึ้นนั้นสูงเกินไป พนักงานของ Amazon เขียนซึ่งเลือกที่จะไม่เปิดเผยตัวตนเพราะกลัวว่าจะถูกลงโทษอย่างมืออาชีพ
เราทราบจากประวัติศาสตร์ว่าเครื่องมือการสอดแนมที่ทรงประสิทธิภาพใหม่ซึ่งไม่มีการควบคุมอยู่ในมือของรัฐ ถูกใช้เพื่อกำหนดเป้าหมายไปยังผู้ที่ไม่ได้ทำอะไรผิด ในสหรัฐอเมริกา การขาดความรับผิดชอบต่อสาธารณะส่งผลให้เกิดผลกระทบเกินขนาดและการดูแลชุมชนสี ผู้อพยพ และผู้คนที่ใช้สิทธิ์การแก้ไขครั้งแรกมากเกินไป การเพิกเฉยต่อข้อกังวลเร่งด่วนเหล่านี้ในขณะที่นำเทคโนโลยีอันทรงพลังไปใช้กับรัฐบาลและหน่วยงานบังคับใช้กฎหมายนั้นอันตรายและขาดความรับผิดชอบ
พนักงาน Amazon ที่ไม่ระบุชื่อและกลุ่มเพื่อนร่วมงานได้สรุปข้อกังวลเหล่านี้ไว้ในจดหมายที่พวกเขาส่งถึง Bezos ในช่วงฤดูร้อนซึ่งขณะนี้มีพนักงาน 450 คนลงนามแล้ว ในจดหมาย พวกเขายังเรียกร้องให้ Amazon Web Services หยุดให้บริการบริษัทซอฟต์แวร์ Palantirซึ่งช่วยให้เจ้าหน้าที่ตรวจคนเข้าเมืองติดตามและเนรเทศผู้อพยพ พวกเขายังขอให้ CEO อนุญาตให้พนักงานป้อนข้อมูลเกี่ยวกับการตัดสินใจของบริษัทที่ก่อให้เกิดคำถามด้านจริยธรรม
เมื่อวันอังคาร Bezos ไม่ได้ตอบจดหมายดังกล่าว แต่ตั้งแต่นั้นมาเขาก็ปกป้องการตัดสินใจของบริษัทในการทำธุรกิจกับรัฐบาล (Amazon ก็เสนอราคาในสัญญา JEDI ด้วย) ณ เวลานี้ Amazon ไม่ได้ตอบคำถามจาก Vox เกี่ยวกับความต้องการของพนักงาน
พนักงาน Google มีผลกระทบต่อการตัดสินใจขององค์กรมากที่สุด
พนักงานเทคโนโลยีหลายพันคนที่ Google ตั้งคำถามว่าบริษัทได้ “สูญเสียเข็มทิศทางศีลธรรม” ในการแสวงหาองค์กรเพื่อเสริมสร้างผู้ถือหุ้นหรือไม่
ในเดือนเมษายน พนักงาน Google มากกว่า 3,000 คนประท้วงสัญญาทางทหารของบริษัทกับเพนตากอนหรือที่รู้จักกันในชื่อ โครงการ Mavenซึ่งเกี่ยวข้องกับเทคโนโลยีในการวิเคราะห์วิดีโอโดรนที่สามารถระบุและฆ่า เป้าหมายของมนุษย์ได้
วิศวกรประมาณ 12 คนลาออกจากสิ่งที่พวกเขามองว่าเป็นการใช้ปัญญาประดิษฐ์อย่างผิดจรรยาบรรณ กระตุ้นให้ Google ปล่อยให้สัญญาหมดอายุในเดือนมิถุนายน และผู้บริหารชั้นนำต่างให้คำมั่นว่าพวกเขาจะไม่ใช้เทคโนโลยี AI เพื่อทำร้ายผู้อื่นหรือสร้างความทุกข์ให้กับมนุษย์
ไม่กี่เดือนต่อมา การสืบสวนโดย Intercept เปิดเผยว่า Google กำลังทำงานอย่างลับๆ ในโครงการที่น่าสงสัยอื่น: กลุ่มวิศวกรกำลังพัฒนาเครื่องมือค้นหาที่ถูกเซ็นเซอร์สำหรับเจ้าหน้าที่จีนในกรุงปักกิ่ง
เสิร์ชเอ็นจิ้นที่อยู่ระหว่างการพัฒนา หรือที่เรียกว่าโครงการ Dragonfly ได้รับการออกแบบมาเพื่อซ่อนผลการค้นหาที่รัฐบาลเผด็จการของจีนต้องการปราบปราม เช่น ข้อมูลเกี่ยวกับประชาธิปไตย เสรีภาพในการพูด การประท้วงอย่างสันติ และสิทธิมนุษยชน ตามการสืบสวนที่เผยแพร่เมื่อเดือนสิงหาคมโดยสกัดกั้น
หลังจากข่าวของ Dragonfly รั่วไหลในเดือนสิงหาคมพนักงาน Google มากกว่า 1,400 คนได้ลงนามในจดหมายเรียกร้องความโปร่งใสและความรับผิดชอบที่มากขึ้นเกี่ยวกับผลกระทบที่อาจเกิดขึ้นของโครงการต่อสิทธิมนุษยชน มีรายงานว่าความขัดแย้งทำให้พนักงาน Google อย่างน้อยห้าคนต้องลาออกเพื่อประท้วง
กลุ่มสิทธิมนุษยชนมากกว่าหนึ่งโหลได้เรียกร้องให้บริษัทยุติโครงการนี้ “ตามที่เห็นสมควร Google เสี่ยงที่จะกลายเป็นสมรู้ร่วมคิดในการปราบปรามเสรีภาพในการพูดและสิทธิมนุษยชนในประเทศจีนของรัฐบาลจีน” พวก เขาเขียน
ขณะนี้มีรายงานว่า Google ปราบปรามพนักงานที่กล่าวว่าเครื่องมือนี้จะช่วยให้คู่ค้าชาวจีนสามารถติดตามและตรวจสอบผู้ใช้ได้อย่างใกล้ชิด
นอกเหนือจากการซ่อนผลการค้นหาที่รัฐบาลจีนต้องการระงับแล้ว เครื่องมือค้นหาใหม่ของ Google ยังติดตามตำแหน่งของผู้ใช้และจะแชร์ประวัติการค้นหาของบุคคลกับพันธมิตรชาวจีน ซึ่งจะ “เข้าถึงข้อมูลได้เพียงฝ่ายเดียว” ซึ่งรวมถึงการเข้าถึงหมายเลขโทรศัพท์ของผู้ใช้ตามบันทึกของพนักงานที่ ได้รับในเดือนกันยายน โดยIntercept
ผู้บริหารของ Google ได้เปิดเผยเพียงเล็กน้อยเกี่ยวกับโครงการนี้ แต่โฆษกของ Google บอกฉัน ในแถลงการณ์เมื่อต้นเดือนนี้ว่า “งานเกี่ยวกับการค้นหาได้รับการสำรวจและเราไม่ได้ใกล้จะเปิดตัวผลิตภัณฑ์ค้นหาในประเทศจีน”
ใน งานอี เวนต์ในสัปดาห์นี้ซันดาร์ พิชัย ประธานเจ้าหน้าที่บริหาร
กล่าวย้ำจุดยืนดังกล่าวและปกป้องโครงการ โดยกล่าวว่าการทำงานในประเทศจีนเป็นสิ่งที่ดี และGoogle จะไม่เซ็นเซอร์ผลการค้นหาของจีนส่วนใหญ่
หาก Google ดำเนินโครงการต่อไป ถือเป็นการพลิกกลับจุดยืนที่แข็งแกร่งของบริษัทในปี 2010 เมื่อตัดสินใจออกจากจีนเพื่อประท้วงการแฮ็ก Gmail ของรัฐบาลจีน และการปราบปรามเสรีภาพในการพูด การตัดสินใจขัดแย้งกับหลักการที่บริษัทนำมาใช้ในเดือนมิถุนายนหลังจากการโต้เถียงเรื่องสัญญาเพนตากอน ซึ่งพิชัยสัญญาว่าบริษัทจะไม่ใช้ปัญญาประดิษฐ์เพื่อพัฒนาเทคโนโลยี “ซึ่งมีจุดประสงค์ขัดต่อหลักกฎหมายระหว่างประเทศและสิทธิมนุษยชนที่เป็นที่ยอมรับอย่างกว้างขวาง”
พนักงานของ Google กล่าวว่าคำสัญญาประเภทนี้ไม่เพียงพออีกต่อไปแล้ว เมื่อพิจารณาจากข่าวเกี่ยวกับเครื่องมือเซ็นเซอร์ และพวกเขาต้องการบทบาทที่เป็นทางการมากขึ้นในการตัดสินใจเกี่ยวกับผลกระทบทางจริยธรรมในการทำงาน
แม้ว่า Google จะเดินหน้าผลักดัน Dragonfly แม้ว่าพนักงานจะมีความกังวล ความต้องการของพวกเขาที่เกี่ยวข้องกับการใช้ปัญญาประดิษฐ์ก็ดูเหมือนจะมีผลกระทบต่อการตัดสินใจขององค์กร
Google กล่าวว่าจะยกเลิกการเสนอราคาในสัญญาเพนตากอนส่วนหนึ่งเพราะ “เราไม่สามารถมั่นใจได้ว่าจะสอดคล้องกับหลักการ AI ของเรา”
Tech Workers Coalition ซึ่งเป็นกลุ่มของผู้เชี่ยวชาญในซิลิคอน วัลเลย์ ซึ่งสนับสนุนให้มีการป้อนข้อมูลเกี่ยวกับจริยธรรมของบริษัทมากขึ้น กล่าวว่า การตัดสินใจครั้งนี้เป็นผลมาจากแรงกดดันของพนักงานทั้งหมด
