Anthropic แจงระบบลายน้ำ Claude ย้ำมองไม่เห็นด้วยตา ผู้ใช้บางส่วนหวั่นถูกจับได้ว่าใช้ AI ถึงขั้นยกเลิกสมาชิก

Anthropic ออกมาอธิบายรายละเอียดระบบลายน้ำข้อความของ Claude หลังเกิดกระแสวิจารณ์อย่างหนัก โดยยืนยันว่าลายน้ำจะมองไม่เห็นและไม่กระทบคุณภาพของข้อความ แต่ผู้ใช้บางส่วนกังวลว่าจะถูกตรวจจับว่าใช้ AI

ระบบนี้พัฒนาขึ้นเพื่อรองรับข้อกำหนดด้านความโปร่งใสของกฎหมาย AI ในสหภาพยุโรป โดยข้อความที่สร้างจาก Claude จะมีลายน้ำดิจิทัลซ่อนอยู่ ขณะที่ไฟล์ที่สร้างโดย AI จะใช้เมตาดาต้าที่ลงนามแบบดิจิทัล

Anthropic อธิบายว่า ระบบใช้แนวคิดเดียวกับเทคโนโลยี SynthID ของ Google โดยอาศัยรหัสลับเพื่อกำหนด “ความน่าจะเป็น” ในการเลือกโทเค็นบางคำ เช่น หากประโยคสามารถเลือกได้หลายคำ ระบบอาจเลือกคำที่ตรงกับรูปแบบของลายน้ำ แต่ถ้าประโยคนั้นมีคำตอบที่ชัดเจนเพียงคำเดียว ระบบก็แทบไม่มีพื้นที่ให้แทรกลายน้ำ

เมื่อทำงานกับข้อความจำนวนมาก รูปแบบทางสถิติเหล่านี้จะสะสมจนสามารถใช้ระบบตรวจจับเพื่อประเมินได้ว่า ข้อความนั้นถูกสร้างโดย Claude หรือไม่ โดย Anthropic ระบุว่าผลกระทบต่อความเร็วและต้นทุนการสร้างข้อความ มีน้อยมาก

แก้ข้อความมนุษย์ ก็อาจติดลายน้ำ

จุดที่น่าสนใจคือ หากนำ Claude มาใช้เพียง แก้ไขข้อความที่มนุษย์เขียนขึ้น ก็ยังมีโอกาสที่ลายน้ำจะถูกฝังลงไป ขึ้นอยู่กับความยาวของข้อความและระดับการแก้ไข แต่ข้อความสั้นหรือถูกแก้เพียงเล็กน้อยอาจมีข้อมูลไม่เพียงพอให้ระบบตรวจจับยืนยันได้ว่า Claude มีส่วนเกี่ยวข้อง

การประกาศระบบลายน้ำทำให้ผู้ใช้ Claude บางส่วนออกมาแสดงความไม่พอใจบน X และอ้างว่ายกเลิกสมาชิกแบบเสียเงิน เพราะไม่ต้องการให้ผลงานที่สร้างด้วย Claude ถูกระบุว่าเป็น AI โดยเฉพาะผู้ที่นำ AI ไปช่วยทำงานที่ลูกค้าหรือสถาบันการศึกษาคาดหวังให้เป็นผลงานของมนุษย์ แต่ Anthropic ระบุว่า จำนวนการยกเลิกสมาชิกไม่ได้เพิ่มขึ้นอย่างมีนัยสำคัญ หลังประกาศใช้ระบบลายน้ำ

ที่มา gizmodo

หนุ่ย แซ่แต้

นักเขียนสาย Introvert ที่ชื่นชอบเรื่องนวัตกรรมและความคิดสร้างสรรค์ ใช้เวลาว่างกับ มังงะ, เสียงเพลงและ idol