จริยธรรมปัญญาประดิษฐ์จากพื้นดิน

เอพิโสดนี้เป็นการพูดคุยกับอาจารย์ชุติเดช เมธีชุติกุลจากคณะรัฐศาสตร์ มหาวิทยาลัยรังสิต อาจารย์เป็นหนึ่งในผู้รับทุนของโครงการ และทำงานวิจัยเรื่อง "พินิจการกำกับดูแลปัญญาประดิษฐ์ผ่านความคิดทางการเมืองของซิเซโร" ความน่าสนใจของงานนี้อยู่ที่ว่า อ. ชุติเดชนำเอาความคิดทางปรัชญาการเมืองของซิเซโร ซึ่งเป็นนักปรัชญาชาวโรมันที่มีชีวิตมากว่าสองพันปีที่แล้ว นำมาประยุกต์ใช้เข้ากับแนวคิดในการกำกับดูแลปัญญาประดิษฐ์ โดยมุ่งรักษาผลประโยชน์ของสาธารณะ มากกว่าจะผลักดันประโยชน์ส่วนตัว นอกจากนี้อาจารย์ยังได้พูดเกี่ยวกับโครงการในปัจจุบันของอาจารย์ ซึ่งก็ทำเกี่ยวกับเอไอเหมือนกันอีกด้วย

ในเอพิโสดนี้เราพูดกันเกี่ยวกับการประยุกต์ในปัญญาประดิษฐ์ในการทหาร พัฒนาการสำคัญในด้านเทคโนโลยีอาวุธในปัจจุบัน อยู่ที่การใช้งานเอไอในออกแบบระบบอาวุธ ทำให้เกิด "ระบบอาวุธอัตตาณัติ" หรือ autonomous weapons systems ซึ่งเป็นระบบอาวุธที่ปฏิบัติงานได้เอง ราวกับว่าทำงานโดยมนุษย์ แต่ในความเป็นจริงมนุษย์ควบคุมน้อยมาก หรือไม่ต้องควบคุมอะไรเลย เพียงแต่กำหนดภารกิจให้แก่ระบบเท่านั้น ปัจจุบันหลายประเทศกำลังพัฒนาระบบอาวุธเช่นนี้ และการมีระบบอาวุธเช่นนี้ก็ก่อให้เกิดคำถามเกี่ยวกับจริยธรรมเป็นอันมาก ซึ่งเราจะมาอภิปรายกันในเอพิโสดนี้

เมื่อราวๆสองอาทิตย์ที่ผ่านมา นักวิจัยที่เคยทำงานกับบริษัท Anthropic ที่ผลิต Claude ได้ออกมาพูดออกสื่อว่า มีความเป็นไปได้ค่อนข้างสูง (ประมาณสิบเปอร์เซนต์) ว่าเอไอจะฆ่าล้างเผ่าพันธุ์มนุษย์ภายในสิบปีนี้ และผู้พูดก็ได้ลาออกจากบริษัทไปพร้อมกับคำพูดนี้ ซึ่งเขาได้เผยแพร่ออกทาง X คำพูดนี้ได้ก่อให้เกิดกระแสอย่างกว้างขวาง ทั้งในทางเห็นด้วยและไม่เห็นด้วย ในเอพิโสดนี้เรามาวิเคราะห์กันว่า เป็นไปได้หรือไม่ หรือเป็นไปได้มากน้อยเพียงใด ที่เอไอจะมาควบคุมองคาพยพทั้งหมดในสังคมมนุษย์ และทำให้เผ่าพันธุ์มนุษย์ต้องสูญไปภายในสิบปีนี้

เมื่อปัญญาประดิษฐ์มีความสามารถมากขึ้น และทำอะไรได้เหมือนกับมนุษย์มากขึ้น คำถามที่ตามมาก็คือว่า เราควรจะมอบสถานะความเป็นบุคคลให้แก่ปัญญาประดิษฐ์หรือไม่? เอพิโสดนี้จะอภิปรายเกี่ยวกับประเด็นเรื่องความเป็นบุคคลของระบบปัญญาประดิษฐ์ รวมไปถึงหุ่นยนต์ การใช้งานแบบจำลองภาษาขนาดใหญ่ และอื่นๆ "บุคคล" หรือ person หมายถึงสิ่ง (ซึ่งอาจเป็นมนุษย์หรืออย่างอื่นก็ได้) ที่มีสิทธิ ได้รับการคุ้มครองจากกฎหมาย ดังนั้น เมื่อระบบปัญญาประดิษฐ์ทำอะไรได้เหมือนมนุษย์ โดยเฉพาะอย่างยิ่งเมื่อปัญญาประดิษฐ์ถือเสมือนว่าเป็น "ผู้กระทำการ" หรือ agent ที่สามารถริเริ่มทำอะไรได้ดัวยตนเอง เราควรถือว่าปัญญาประดิษฐ์มีสถานะเป็น "บุคคล" แบบเราๆหรือไม่? เพราะเหตุใด?

เอพิโสดนี้พูดเกี่ยวกับข้อดีและข้อเสียของ "ศูนย์ข้อมูลปัญญาประดิษฐ์" หรือ AI Data Centers ศูนย์ดังกล่าวเป็นตัวทำงานจริงของปัญญาประดิษฐ์แบบที่เราใช้ๆกัน ประกอบด้วยฮาร์ดดิสค์และซีพียูขนาดใหญ่ เรียงกันเป็นแถวยาว รวมอยู่ในโรงเรือนที่รักษาความสะอาด และควบคุมอุณหภูมิอย่างเข้มงวด ศูนย์เหล่านี้ใช้พลังงานไฟฟ้ามากมหาศาล และความร้อนที่เกิดขึ้นก็จำเป็นต้องใช้น้ำสะอาดปริมาณมหาศาลเช่นเดียวกันในการหล่อเย็น ทั้งหมดนี้ทำให้เกิดความเสี่ยงต่อโครงสร้างพื้นฐานและสิ่งแวดล้อมของประเทศ แต่ข้อดีที่บางฝ่ายพยายามเสนอให้สังคมรับรู้ คือข้อดีด้านเศรษฐกิจของประเทศ เราจะมาพิจารณาข้อดีกับข้อเสียเหล่านี้ในเอพิโสดนี้

เมื่อต้นเดือนกรกฎาคมที่ผ่านมา ผมได้ไปประชุมที่เมืองเสิ่นเจิ้น การประชุมนี้เป็นส่วนหนึ่งของการประชุมหลายๆครั้งที่จัดขึ้นก่อนจะมีการประชุมสุดยอดผู้นำของ APEC หรือการร่วมมือทางเศรษฐกิจในภูมิภาคเอเซียแปซิฟิค การประชุมที่ผมไปร่วมมีหัวข้อว่า APEC Tech for Good โจทย์ใหญ่ของการประชุมก็คือว่า เราจะหาทางประสานระหว่างเทคโนโลยีที่สร้างกำไรกับการสร้างสรรค์สิ่งดีๆให้แก่สังคมในด้านอื่นๆ เช่นสิ่งแวดล้อมหรือจริยธรรม อย่างไรได้บ้าง ประเด็นสำคัญประการหนึ่งก็คือว่า เทคโนโลยีปัญญาประดิษฐ์ได้แพร่กระจายไปทุกภูมิภาคของโลก แต่กฎเกณฑ์หรือหลักจริยธรรมที่มาใช้กับปัญญาประดิษฐ์ ถูกกำหนดขึ้นโดยไม่กี่ประเทศในโลก แต่มีความคาดหวังว่าให้ใช้อย่างสากลทั่วทุกที่ในโลก ในเอพิโสดนี้เราอภิปรายกันว่า ความคาดหวังนี้ถูกต้องหรือไม่ เพราะเหตุใด