ในโลกที่ความก้าวหน้าของ “เทคโนโลยีปัญญาประดิษฐ์” หรือ “เอไอ” มีบทบาทในชีวิตประจำวันอย่างหลีกเลี่ยงไม่ได้ ระบบเอไอในรูปแบบแชตบอตอย่าง ChatGPT กลายเป็นเครื่องมือสำคัญสำหรับวัยรุ่นในการเรียนรู้และระบายความในใจ แต่บทบาทนี้ก็มาพร้อมกับความท้าทายด้านความปลอดภัยและสุขภาพจิตเของผู้ใช้งานหลังมีรายงานเหตุสะเทือนใจ วัยรุ่นในรัฐแคลิฟอร์เนีย “อดัม เรน” วัย 16 ปี ใช้ ChatGPT เป็นช่องทางในการพูดคุยขอคำปรึกษาเกี่ยวกับปัญหาความวิตกกังวลของตนเอง แต่สุดท้ายกลับกลายเป็นการให้คำแนะนำทางเทคนิคเกี่ยวกับวิธีการจบชีวิต จนนำมาสู่การตัดสินใจปลิดชีวิตตัวเองอย่างน่าเศร้าสะเทือนใจล่าสุด OpenAI บริษัทผู้พัฒนา ChatGPT ได้ประกาศแนวทางใหม่เพื่อเพิ่ม มาตรการดูแลความปลอดภัยให้เข้มข้นยิ่งขึ้น ด้วยการเปิดตัว “ระบบควบคุมโดยผู้ปกครอง” ในเดือน ต.ค. เมื่อตั้งค่าเรียบร้อยแล้ว ผู้ปกครองสามารถเชื่อมโยงบัญชีของตนกับบัญชีของลูกๆ (ที่มีอายุ 13 ปีขึ้นไป) และกำหนดขอบเขตการใช้งานของวัยรุ่นได้ ควบคุมการตอบสนองของเอไอให้เหมาะสมกับอายุ รวมทั้งเลือกรับการแจ้งเตือน หากตรวจพบสัญญาณว่าเด็กๆกำลังอยู่ในภาวะ “ทุกข์ทรมานทางอารมณ์อย่างรุนแรง” หรือ “ข้อความบ่งชี้ถึงวิกฤติสุขภาพจิตที่อาจเกิดขึ้น”ส่วนผู้ใช้งานในกลุ่มผู้ใหญ่และวัยรุ่น OpenAI ยืนยันว่าจะเริ่มส่งต่อบทสนทนาละเอียดอ่อนที่เกี่ยวข้องกับปัญหาสุขภาพจิตหรือความคิดฆ่าตัวตาย ผ่านโมเดล ChatGPT เฉพาะทาง เพื่อตอบสนองอย่างระมัดระวังมากขึ้นอย่างไรก็ตาม แนวทางดังกล่าวถูกวิพากษ์วิจารณ์ว่ามีขอบเขตจำกัดและอาจไม่สามารถป้องกันอันตรายได้อย่างสมบูรณ์ เนื่องจากแชตบอตเอไอ ไม่อาจเทียบเท่าหรือทดแทนคำแนะนำด้านสุขภาพจิตจากผู้เชี่ยวชาญหรือการดูแลจากมนุษย์จริงๆได้ รวมถึงแนวคิดที่ว่าการควบคุมโดยผู้ปกครองอาจสร้างความรู้สึกปลอดภัยที่ผิดๆ โดยมองว่า การดูแลและสร้างความตระหนักรู้ของผู้ปกครองสำคัญกว่าการควบคุมทางเทคนิคเพียงอย่างเดียวยังไม่รวมความกังวลเรื่องผลกระทบต่อความเป็นส่วนตัว ในขณะที่เยาวชนก็อาจหาวิธีหลีกเลี่ยงการควบคุมได้เช่นกันทำให้ผู้เชี่ยวชาญเสนอว่า การควบคุมโดยผู้ปกครองควรเป็นเพียงส่วนหนึ่งของมาตรการที่ครอบคลุม ซึ่งรวมถึงการให้ความรู้แก่ครอบครัว และการกำกับดูแลด้านจริยธรรมของเอไอ เพื่อสร้างความตระหนักรู้และส่งเสริมการใช้งานอย่างปลอดภัยในระยะยาว.อมรดา พงศ์อุทัยคลิกอ่านคอลัมน์ “หน้าต่างโลก” เพิ่มเติม
