ขังมันไว้ในกล่องไม่ได้หรอกครับ สัปดาห์ที่แล้วพิสูจน์แล้วสองครั้ง

รัฐบาลทรัมป์ตัดสินว่า AI เจาะระบบที่ทรงพลังที่สุดเท่าที่เคยสร้างมา อันตรายเกินกว่าจะปล่อยออกนอกประเทศ ห้องแล็บจีนใช้เวลาสี่วัน ก็มอบของที่เทียบเท่าให้โลกทั้งใบ ฟรี รันบนแล็ปท็อปได้

วันที่ 9 มิถุนายน Anthropic เปิดตัว Mythos โมเดลที่อ่านโค้ดเบสแล้วหาจุดบกพร่องที่โจมตีได้เร็วกว่าทีมมนุษย์ทีมไหน สามวันต่อมา วอชิงตันสั่งห้าม Anthropic ส่ง Mythos หรือโมเดลพี่น้องอย่าง Fable ให้พลเมืองต่างชาติคนใดก็ตาม รวมถึงพนักงานที่ไม่ใช่พลเมืองอเมริกันของตัวเองด้วย และ Anthropic ก็ปิดทั้งสองโมเดลสำหรับทุกคน เป็นเวลาราวหนึ่งวัน AI หาบั๊กที่เก่งที่สุดในโลกนั่งอยู่ในกล่อง จากนั้นในสัปดาห์เดียวกัน ห้องแล็บ Zhipu ของจีนเปิดตัว GLM-5.2: น้ำหนักโมเดลแบบเปิด ใบอนุญาตแบบอนุญาตเสรี ดาวน์โหลดฟรี รันบนแล็ปท็อปได้ และตัวควบคุมความปลอดภัยถอดออกได้โดยการออกแบบ Semgrep เทียบเบนช์มาร์กกับโมเดลที่วอชิงตันเพิ่งขังไว้ ตั้งชื่อผลลัพธ์ว่า "We have Mythos at Home" และพบว่า GLM-5.2 ชนะ Claude Code ในบั๊กกลุ่ม access-control ในราคาราว 17 เซนต์ต่อช่องโหว่ที่เจอ

ภายในหนึ่งสัปดาห์ รัฐบาลที่เอาจริงพยายามขังความสามารถไซเบอร์ระดับแนวหน้าไว้ในกล่องอย่างจริงจัง แล้วของเทียบเท่าแบบเปิดน้ำหนักก็ทำให้กล่องนั้นไร้ความหมายไปก่อนข่าวจะวนรอบเสียอีก ไม่ใช่เพราะการควบคุมนั้นหย่อนยาน แต่เพราะคุณจะควบคุมการส่งออกความสามารถที่ห้องแล็บอื่นสามารถสร้างใหม่แล้วแจกฟรีไม่ได้ วอชิงตันตัดสินว่าบริษัทของตัวเองจะส่งออกอะไร แต่ไม่ได้ตัดสินว่าส่วนอื่นของโลกจะเปิดซอร์สอะไร ฝ่ายหนึ่งขังมันไว้ อีกฝ่ายปล่อยของเทียบเท่าเป็นอิสระ สัปดาห์เดียวกัน ทิศทางตรงข้าม บทสรุปเดียว

รัฐบาลปฏิบัติต่อเรื่องนี้เหมือนอาวุธ ด้วยเหตุผลที่ผู้ป้องกันทุกคนควรใคร่ครวญ โมเดลที่หาจุดบกพร่องที่โจมตีได้ด้วยตัวเอง คือโมเดลที่คุณเล็งไปที่กำแพงทุกแห่งที่คุณสร้าง และจนถึงสัปดาห์ที่แล้ว เวอร์ชันที่เก่งที่สุดของมันอยู่กับองค์กรที่ผ่านการคัดกรองราวร้อยแห่ง ตอนนี้ของเทียบเท่าฟรี ไม่รู้จักเหน็ดเหนื่อย ราคาถูก และรันบนเครื่องเดียวกับที่โค้ดและเอเจนต์ของคุณรันอยู่แล้ว สมมติฐานที่ใช้ได้ไม่ใช่การกันมันไว้ข้างนอกอีกต่อไป แต่เป็นว่ามันอยู่ข้างในแล้ว กำลังอ่าน กำลังล่าความลับชิ้นเดียวที่เปลี่ยนจุดตั้งหลักให้กลายเป็นการละเมิด

นั่นคือคำถามที่เราสร้าง Clavitor ขึ้นมาเพื่อตอบ หลายปีก่อนที่สัปดาห์นี้จะตั้งคำถามให้เรา: ไม่ใช่ว่าจะกันคนสะเดาะกุญแจไม่ให้เข้ามาอย่างไร แต่ว่ามันจะเจออะไรเมื่อเข้ามาแล้ว

ตู้นิรภัยอื่น ๆ ทั้งหมดเป็นกำแพงล้อมความลับ ผ่านกำแพงเข้าไปได้ ไม่ว่าด้วยโทเคนที่ขโมยมา คีย์ที่รั่วไหล หรือข้อบกพร่องในโค้ดที่กำลังรันอยู่ ความลับก็อยู่ตรงนั้นให้อ่าน กำแพงคือการป้องกันทั้งหมด ดังนั้นกำแพงที่พังคือการละเมิดทั้งหมด และการผ่านกำแพงนี่แหละคือสิ่งที่เครื่องมือหาช่องโหว่ระดับแนวหน้าถูกสร้างมาเพื่อทำ

เราเดิมพันฝั่งตรงข้าม ซึ่งเป็นทางเดียวที่จะรอดเมื่อคนสะเดาะกุญแจหลุดออกมาโลดแล่น: ไม่มีความลับที่อ่านได้ในตอนปลายของกำแพง ฟิลด์ที่อ่อนไหวที่สุดของคุณถูกเข้ารหัสด้วยคีย์ที่อนุพันธ์จากฮาร์ดแวร์ของคุณเอง ลายนิ้วมือ ใบหน้า หรือคีย์ความปลอดภัยของคุณเอง ในวินาทีที่คุณแตะ ภายในเบราว์เซอร์ของคุณเอง คีย์นั้นไม่เคยถูกส่งถึงเราและไม่เคยถูกเก็บบนเซิร์ฟเวอร์ของเรา เราตรวจสอบเรื่องนี้กับซอร์สของเราก่อนจะเขียนมันลง: ให้เอาแบ็กเอนด์ทั้งหมด ทุกเซิร์ฟเวอร์ ฐานข้อมูลทั้งก้อนไป สิ่งที่คุณได้ไปคือ ciphertext และคีย์ 256 บิตที่คุณไม่เคยได้รับและหาไม่เจอ เพราะมันไม่เคยอยู่บนเครื่องที่คุณเอาไป

เหตุผลที่มันรอดจาก GLM-5.2 นั้นน่าเบื่อ และความน่าเบื่อนั่นแหละคือจุดประสงค์ การหาข้อบกพร่องในซอฟต์แวร์กับการเดาคีย์ 256 บิตเป็นคนละปัญหากัน โมเดลระดับแนวหน้าเก่งเป็นพิเศษในข้อแรก และไม่ดีไปกว่าการโยนเหรียญในข้อสอง และจะขยายขนาดมากแค่ไหนก็ไม่เปลี่ยนเรื่องนี้ มันโจมตี implementation มันไม่โจมตี entropy ดังนั้นทุกอย่างที่เราทำเพิ่มเติมมีอยู่เพื่อลดสิ่งที่มันเอื้อมถึง จนเหลือสิ่งเดียวให้โจมตีคือคณิตศาสตร์ และคณิตศาสตร์ไม่เปิด

ทั้งหมดนี้ไม่ได้ทำให้คุณแตะต้องไม่ได้ และใครก็ตามที่ขายคำสัญญาแบบนั้นให้คุณกำลังโกหก ผู้โจมตีที่เก่งพอ ซึ่งตอนนี้มีเครื่องมือหาบั๊กระดับแนวหน้าที่ฟรีอยู่ในมือ จะหาข้อบกพร่องในโค้ดที่กำลังรันได้ในที่สุด สมมติว่ามันเข้ามาได้ สิ่งที่เราตัดออกไปคือผลตอบแทนของมัน เข้ามาได้แล้ว ความลับก็เป็น ciphertext ที่ไม่เคยมีคีย์ให้หา เพราะคีย์อยู่บนฮาร์ดแวร์ของคุณ และมีอยู่เฉพาะในวินาทีที่คุณใช้งาน เราไม่สัญญาว่าคุณจะถูกเข้าไม่ถึง เราสัญญาว่าไม่มีอะไรถอดรหัสได้ในปลายทางของการเอื้อมนั้น

พาดหัวของสัปดาห์นี้เป็นเรื่องภูมิรัฐศาสตร์ และมันจะวนออกไปจากข่าว ส่วนที่อยู่นานนั้นเงียบกว่า: ความสามารถขังไว้ในกล่องไม่ได้ และสัปดาห์ที่แล้วพิสูจน์เรื่องนี้สองครั้ง ในทิศทางตรงข้าม พร้อมกัน คำตอบไม่เคยเป็นกล่องที่ดีกว่า แต่เป็นการเลิกใส่อะไรที่คุ้มค่าแก่การเปิดเข้าไปในกล่อง เราไม่ได้สร้างตู้นิรภัยที่ไม่มีใครเจาะเข้าไปได้ เราสร้างตู้ที่คุณเจาะเข้าไปได้แล้วยังเดินออกมาตัวเปล่า

กฎที่เราถือตัวเองไว้ สำหรับฝั่งของระบบที่อันตรายนี้อยู่จริง ๆ อยู่ที่นี่ ครับ

ดังนั้นนี่คือคำถามที่คู่ควรแก่การถกเถียง เพราะคำตอบจะเปลี่ยนวิธีที่คุณสร้างอย่างอื่นทั้งหมด: คุณคิดว่าเราจะกันโมเดลรุ่นต่อไปเหล่านี้ออกจากระบบของเราได้เลยหรือไม่ หรือแผนที่ซื่อสัตย์ที่สุดคือสมมติว่ามันอยู่ข้างในแล้ว

Clavitor (@clavitorai) คือตู้เก็บ credential ที่สร้างขึ้นเพื่อ AI agents และเพื่อรับมือกับมัน clavitor.ai

แหล่งอ้างอิง

Fortune (@FortuneMagazine): "Anthropic disables Fable and Mythos AI models following U.S. government export ban." การเปิดตัววันที่ 9 มิถุนายน คำสั่งกระทรวงพาณิชย์วันที่ 12 มิถุนายนที่ห้ามแจกจ่ายให้พลเมืองต่างชาติคนใดก็ตาม และการที่ Anthropic ปิดทั้งสองโมเดลสำหรับผู้ใช้ทุกคน [1]

Semgrep (@semgrep): "We have Mythos at Home: GLM-5.2 beats Claude in our cyber benchmarks." การเทียบเบนช์มาร์ก GLM-5.2 แบบเปิดน้ำหนักในงานตรวจหาช่องโหว่ ซึ่งชนะ Claude Code ในบั๊ก access-control (IDOR) ที่ราคาราว 0.17 ดอลลาร์ต่อรายการที่เจอ [2]

CNBC (@CNBC): "Trump admin allows Anthropic to release Mythos AI model to some companies, government agencies." การเปิดให้ใช้ Mythos แบบจำกัดในภายหลัง แก่บริษัทที่ผ่านการคัดกรองราว 100 แห่งและหน่วยงานรัฐบาลกลาง [3]

Cybersecurity Dive (@CyberSecDive): "Cybersecurity experts blast U.S. government for restricting Anthropic's AI models." ปฏิกิริยาจากวงการที่มองว่าความสามารถนี้แพร่หลายพอที่การควบคุมจะคุมไม่อยู่ [4]