ปัญญาประดิษฐ์อันตรายหรือไม่?

ระบบ AI มักต้องการข้อมูลส่วนบุคคลจำนวนมาก (โพสต์โซเชียลมีเดีย, บันทึกสุขภาพ ฯลฯ) ซึ่งเพิ่มความเสี่ยงในการถูกละเมิด หากรัฐบาลหรือบริษัทใช้ AI วิเคราะห์ข้อมูลของคุณโดยไม่ได้รับอนุญาต อาจนำไปสู่การเฝ้าระวังที่ล่วงล้ำ

Britannica เตือนถึง "ความเสี่ยงด้านความเป็นส่วนตัวที่อันตราย" จาก AI เช่น การใช้ AI ในการให้คะแนนเครดิตสังคมที่ถกเถียงกัน – ซึ่งถูกสหภาพยุโรปแบนว่าเป็นการปฏิบัติที่ "ไม่ยอมรับได้"

AI สามารถสร้างข้อความ ภาพ หรือวิดีโอปลอมที่สมจริง ซึ่งทำให้การสร้าง ดีปเฟค – วิดีโอปลอมของคนดังหรือข่าวปลอม – ง่ายขึ้น

Britannica ชี้ว่า AI สามารถเผยแพร่ "ข้อมูลเท็จที่มีการเมืองและอันตราย" ผู้เชี่ยวชาญเตือนว่าข้อมูลปลอมเหล่านี้อาจถูกใช้เพื่อบิดเบือนการเลือกตั้งหรือความคิดเห็นสาธารณะ

ด้วยการทำงานอัตโนมัติ AI จะเปลี่ยนแปลงสถานที่ทำงาน กองทุนการเงินระหว่างประเทศรายงานว่าประมาณ 40% ของงานทั่วโลก (และ 60% ในประเทศพัฒนาแล้ว) มีความเสี่ยงจากการทำงานอัตโนมัติของ AI

นี่รวมถึงงานในโรงงานและงานชนชั้นกลาง เช่น การบัญชีหรือการเขียน แม้ AI อาจเพิ่มผลผลิต (ซึ่งอาจช่วยเพิ่มค่าจ้างในระยะยาว) แต่คนงานหลายคนอาจต้องฝึกอบรมใหม่หรืออาจตกงานในระยะสั้น

เช่นเดียวกับเทคโนโลยีอื่น ๆ AI สามารถถูกใช้ในทางที่ผิด อาชญากรไซเบอร์ใช้ AI สร้างอีเมลฟิชชิ่งที่น่าเชื่อถือหรือสแกนระบบหาจุดอ่อน

ผู้เชี่ยวชาญทางทหารกังวลเกี่ยวกับ อาวุธอัตโนมัติ เช่น โดรนหรือหุ่นยนต์ที่เลือกเป้าหมายโดยไม่ต้องได้รับอนุมัติจากมนุษย์

กล่าวอีกนัยหนึ่ง ระบบ AI ที่ควบคุมทางกายภาพ (เช่น อาวุธ) อาจอันตรายอย่างยิ่งหากเกิดความผิดพลาดหรือถูกตั้งโปรแกรมในทางที่เป็นอันตราย

นักคิดบางคนชี้ว่า หาก AI มีพลังมากกว่าปัจจุบันมาก อาจทำงานในวิธีที่ไม่คาดคิด แม้ AI ปัจจุบันจะไม่มีสติหรือความรู้ตัว แต่ AI ทั่วไปในอนาคต (AGI) อาจมีเป้าหมายที่ไม่สอดคล้องกับค่านิยมของมนุษย์

นักวิทยาศาสตร์ AI ชั้นนำเตือนว่า "ระบบ AI ทั่วไปที่ทรงพลังสูง" อาจปรากฏในอนาคตอันใกล้นี้หากเราไม่เตรียมพร้อม

ผู้ได้รับรางวัลโนเบล Geoffrey Hinton และผู้เชี่ยวชาญอื่น ๆ ยังระบุว่ามีความเสี่ยงเพิ่มขึ้นที่ AI อาจทำร้ายมนุษยชาติหาก AI ขั้นสูงไม่สอดคล้องกับความต้องการของเรา แม้ความเสี่ยงนี้ยังไม่แน่นอน แต่ก็เป็นแรงผลักดันให้มีการเรียกร้องความระมัดระวังอย่างสูง

การฝึกและใช้งานโมเดล AI ขนาดใหญ่ใช้ไฟฟ้ามาก ยูเนสโกรายงานว่าการใช้พลังงานประจำปีของ AI สร้างสรรค์เทียบเท่ากับประเทศแอฟริกาขนาดเล็กแห่งหนึ่ง – และกำลังเพิ่มขึ้นอย่างรวดเร็ว

สิ่งนี้อาจทำให้ปัญหาการเปลี่ยนแปลงสภาพภูมิอากาศรุนแรงขึ้นหากเราไม่ใช้วิธีที่เป็นมิตรกับสิ่งแวดล้อม