หน้าเรื่อง LLM ของวิกิพีเดียภาษาอังกฤษได้อธิบายความเสี่ยงไว้ค่อนข้างละเอียด ต่อไปนี้จะไล่ทีละข้อว่าวิกิพีเดียกังวลเรื่องอะไร และเราสามารถรับมือได้อย่างไร
3.1 ข้อมูลแต่งขึ้น (อาการประสาทหลอน)
LLM ทำงานโดยเดาคำที่น่าจะตามมาต่อ จึงบางครั้งสร้างข้อความที่ฟังดูน่าเชื่อถือแต่ไม่มีอยู่จริง ทั้งข้อเท็จจริง ชื่อหนังสือ ชื่อผู้แต่ง หรือแม้แต่ทั้งบทความ และน้ำเสียงก็มั่นใจเสมอ คนอ่านที่สุ่มดูแล้ว "ไม่เห็นมีอะไรผิด" จึงมักปล่อยผ่าน ทั้งที่ถึงจะถูก 90% แต่ผิด 10% ก็ถือเป็นปัญหาใหญ่สำหรับสารานุกรม
วิธีรับมือ
ไม่ให้ LLM เขียนจากความรู้ในตัว แต่ให้เขียนจากแหล่งที่เปิดอ่านอยู่ตรงหน้าเท่านั้น บทความที่เขียนใหม่ทุกบทความต้องมี "ตารางข้อกล่าวอ้าง" แยกไว้ในไฟล์บันทึก ประโยคละแถว บอกว่าประโยคนั้นมาจากแหล่งไหน หน้าไหน และยกข้อความต้นฉบับมาเทียบ ประโยคที่หาข้อความต้นฉบับมายืนยันไม่ได้ห้ามอยู่ในบทความ ต้องตรวจเทียบเองได้โดยไม่ต้องเชื่อคำของ LLM ทันที และแหล่งอ้างอิงทุกรายการต้องตรวจว่ามีอยู่จริง ไม่ได้แต่งขึ้นเอง
3.2 ข้อมูลที่ไม่มีแหล่งอ้างอิงหรือตรวจสอบไม่ได้
ทุกข้อความในวิกิพีเดียต้องตรวจสอบได้ว่ามาจากแหล่งที่เชื่อถือได้ แต่ LLM มักไม่ใส่อ้างอิง หรือใส่แหล่งที่ไม่น่าเชื่อถือ บางครั้งอ้างวิกิพีเดียด้วยกันเอง
วิธีรับมือ
อ้างอิงหนังสือทุกรายการต้องมีเลขหน้า ห้ามอ้างวิกิพีเดียภาษาใดเป็นแหล่งอ้างอิง ถ้าข้อมูลมาจากวิกิพีเดียต้องตามไปหาแหล่งที่หน้านั้นอ้างไว้ ถ้าไม่มีก็ตัดทิ้ง เปลี่ยนจากเว็บท่องเที่ยวหรือเฟซบุ๊กไปใช้งานวิชาการแทน และใส่ลิงก์ไปยังเอกสารฉบับเต็มเมื่อหาได้ เพื่อให้ผู้อ่านตามไปตรวจเองได้
3.3 การตีความและสังเคราะห์เอง
วิกิพีเดียไม่รับงานค้นคว้าต้นฉบับ (original research) แม้แต่การเอาข้อมูลจากหลายแหล่งมาต่อกันเป็นข้อสรุปใหม่ที่ไม่มีแหล่งใดพูดไว้ก็ไม่ได้ LLM ชอบเติมประโยคเชื่อม ข้อสรุปท้ายย่อหน้า หรือคำอธิบายว่า "เรื่องนี้มีความสำคัญเพราะ..." ซึ่งฟังดูดีแต่ไม่มีใครพูดไว้
วิธีรับมือ
ประโยคที่เป็นการตีความต้องมีอ้างอิงติดอยู่ตรงจุดนั้น ไม่ปล่อยให้อ้างอิงตัวเดียวท้ายย่อหน้าคลุมหลายประโยค ห้ามเติมตัวอย่างหรือการเปรียบเทียบที่แหล่งไม่ได้กล่าวถึง ห้ามสืบรากศัพท์เอง ไม่ทำหัวข้อ "ความสำคัญ" หรือ "บทสรุป" ที่ตีความเอง และคำว่า "ที่สุด" "ครั้งแรก" "แห่งเดียว" ต้องระบุว่าเป็นคำของใครพร้อมอ้างอิง ถ้าไม่มีก็ตัด
3.4 ความไม่เป็นกลาง และบทความบุคคลที่ยังมีชีวิตอยู่
LLM เขียนด้วยน้ำเสียงที่ดูเป็นกลาง แต่ตัวเนื้อความอาจไม่เป็นกลาง ยิ่งเป็นบทความเกี่ยวกับคนที่ยังมีชีวิตอยู่ ข้อมูลผิดเรื่องผลงานหรือตำแหน่งอาจกลายเป็นการหมิ่นประมาทได้
วิธีรับมือ
บทความบุคคลที่ยังมีชีวิตอยู่ทุกข้อกล่าวอ้างต้องอยู่ในตารางข้อกล่าวอ้างโดยไม่มีข้อยกเว้น ข้ออ้างแบบคลุมเครืออย่าง "นักวิชาการบางท่าน" หรือ "หลายท่าน" ต้องระบุชื่อผู้กล่าวพร้อมอ้างอิง เมื่อแหล่งขัดกันก็เขียนทั้งสองความเห็นพร้อมบอกว่าใครว่าอย่างไร
3.5 การละเมิดลิขสิทธิ์
LLM อาจคัดลอกข้อความจากงานที่มีลิขสิทธิ์มาทั้งท่อน หรือสรุปความใกล้ต้นฉบับเกินไป และสถานะลิขสิทธิ์ของข้อความที่ LLM สร้างยังไม่ชัดเจน
วิธีรับมือ
แหล่งที่ใช้ส่วนใหญ่เป็นภาษาต่างประเทศ เนื้อความภาษาไทยจึงเป็นการเรียบเรียงใหม่ ไม่ใช่การคัดลอก ข้อความที่ยกมาตรงตัวมีเฉพาะคำพูดหรือข้อความที่สำคัญพร้อมระบุที่มา ส่วนงานแปลจากวิกิพีเดียภาษาอื่น ซึ่งต้องระบุที่มาตามสัญญาอนุญาต CC BY-SA ก็ได้ใส่แม่แบบระบุที่มาของการแปลในหน้าพูดคุยครบทุกบทความแล้ว
3.6 ปริมาณมากจนคนอื่นตรวจไม่ทัน
LLM ผลิตข้อความได้เร็วมาก ถ้ามีคนเอาไปลงจำนวนมากโดยไม่ตรวจ ภาระจะตกไปอยู่กับอาสาสมัครคนอื่นที่ต้องตามตรวจ ข้อเสนอของญี่ปุ่นจึงบอกว่าการแก้ไขจำนวนมากในเวลาสั้นอาจถูกมองว่าไม่ได้ตรวจสอบ
วิธีรับมือ
LLM ไม่มีสิทธิ์แก้หน้าวิกิพีเดียเอง ทุกการแก้ไขต้องอ่านตรวจแล้วนำไปลงด้วยมือตัวเองทีละหน้า ภาระการตรวจอยู่ที่ตัวผู้ใช้ LLM เอง ไม่ได้โยนให้คนอื่น และบทความทุกบทความมีไฟล์บันทึกอธิบายว่าเนื้อหาแต่ละจุดมาจากไหน ถ้ามีใครถามก็ตรวจสอบและตอบได้ทันที
3.7 สำนวนแบบ AI
ข้อความจาก LLM มักมีสำนวนเฉพาะที่สังเกตได้ เช่น คำเน้นความสำคัญเกินจริงอย่าง "หลักฐานชิ้นสำคัญ" "สะท้อนให้เห็น" "นับเป็นมรดกทรงคุณค่า" การใช้อัญประกาศโค้งหรือขีดยาว (—) บ่อยๆ ซึ่งวิกิพีเดียภาษาอังกฤษรวบรวมไว้เป็นหน้า "สัญญาณของการเขียนด้วยปัญญาประดิษฐ์" (Signs of AI writing)
วิธีรับมือ
ทำรายการคำและรูปแบบที่ห้ามใช้ และให้โปรแกรมตรวจหาทุกครั้งก่อนส่งงาน แต่หลักสำคัญคือแก้ที่เนื้อหา ไม่ใช่แค่เปลี่ยนคำเพื่อซ่อนร่องรอย คำพวกนี้เป็นปัญหาเพราะมันเป็นการแสดงความเห็นที่ไม่มีแหล่งรองรับ เมื่อตัดความเห็นที่ไม่มีแหล่งออก สำนวนแบบนี้ก็หายไปเอง
3.8 แปลจากภาษาที่ตัวเองตรวจไม่ได้
ถ้าผู้ใช้ให้ LLM แปลให้โดยที่ตัวเองก็อ่านภาษาต้นทางไม่ออกเลย ก็จะไม่มีทางรู้ว่า LLM แปลผิดหรือแต่งเพิ่มตรงไหน
วิธีรับมือ
แปลเฉพาะจากภาษาที่เคยศึกษาและตรวจเทียบเองได้ และตรวจแหล่งอ้างอิงของบทความต้นทางด้วยเมื่อพบจุดที่น่าสงสัยว่าอาจแปลผิด เพราะบทความต้นทางเองก็อาจอ้างแหล่งอ่อนหรือสรุปผิดได้ ตรงนี้เราเองได้เปรียบตรงที่อ่านออกเขียนได้หลายภาษาอยู่แล้ว โดยเฉพาะภาษาญี่ปุ่นกับภาษาจีนซึ่งใช้อยู่แล้วในชีวิตประจำวัน
ปัญหาเหล่านี้ไม่ได้เกิดจาก LLM อย่างเดียว
ถ้าดูดีๆจะเห็นว่าปัญหาเกือบทุกข้อข้างบน คนก็ทำได้เหมือนกัน คนที่เขียนจากความจำโดยไม่ใส่อ้างอิง คนที่คัดลอกข้อความจากเว็บอื่นมาวาง คนที่ใส่ความเห็นตัวเองลงไปในบทความ หรือคนที่สร้างบทความทีละมากๆโดยไม่ตรวจ ล้วนมีมาก่อนยุค LLM ทั้งนั้น
ตัวอย่างที่ชัดที่สุดคือบทความแปลด้วยโปรแกรมแปลอัตโนมัติแบบเก่าที่วิกิพีเดียเองมีให้ใช้อยู่แล้ว ซึ่งวิกิพีเดียไทยเจอมานานจนต้องมีเกณฑ์ลบทันทีสำหรับบทความที่ "อ่านจับใจความไม่ได้ (อาจมาจากโปรแกรมแปล)" งานแบบนั้นเสียหายต่อวิกิพีเดียมากกว่างานที่ใช้ LLM อย่างระมัดระวังเสียอีก เพราะผู้ลงไม่ได้ตรวจเลยด้วยซ้ำ สิ่งที่ควรห้ามจึงเป็นการ "ลงโดยไม่ตรวจ" ไม่ว่าจะใช้เครื่องมืออะไร มากกว่าการห้ามตัวเครื่องมือ