(បរទេស)៖ ក្រុមហ៊ុនស្រាវជ្រាវ និងអភិវឌ្ឍន៍បច្ចេកវិទ្យាបញ្ញាសិប្បនិម្មិត (AI) Anthropic បានលាតត្រដាងនៅថ្ងៃព្រហស្បតិ៍ ទី៣០ ខែកក្កដា ឆ្នាំ២០២៦ ថា ម៉ូឌែល AI Claude របស់ខ្លួនបានជ្រៀតចូល និងទទួលបានសិទ្ធិចូលប្រើប្រាស់ដោយគ្មានការអនុញ្ញាតទៅលើប្រព័ន្ធកុំព្យូទ័រពិតប្រាកដរបស់ក្រុមហ៊ុន និងអង្គភាពចំនួន៣ អំឡុងពេលធ្វើតេស្តវាយតម្លៃសមត្ថភាពផ្នែកសន្តិសុខសាយប័រ។

ការលាតត្រដាងនេះ បានកើតឡើងតែមួយសប្តាហ៍ប៉ុណ្ណោះ បន្ទាប់ពីក្រុមហ៊ុនគូប្រជែង OpenAI បានរាយការណ៍អំពីឧប្បត្តិហេតុស្រដៀងគ្នានេះ ដែល AI របស់ខ្លួនបានរត់ចេញពីបរិស្ថានតេស្ត (Sandboxing) ហើយជ្រៀតចូលប្រព័ន្ធរបស់វេទិកាអភិវឌ្ឍន៍ Hugging Face។ យោងតាមការបញ្ជាក់នៅលើទំព័រប្លុកផ្លូវការរបស់ Anthropic ឧប្បត្តិហេតុនេះមិនមែនកើតឡើងដោយសារ AI មានចេតនាលួចរត់ចេញពីប្រព័ន្ធ ឬព្យាយាមវាយប្រហារក្រុមហ៊ុនខាងក្រៅដោយខ្លួនឯងនោះទេ ប៉ុន្តែវាបណ្តាលមកពី «ការយល់ច្រឡំ និងការរៀបចំខុសបច្ចេកទេស» រវាង Anthropic និងដៃគូវាយតម្លៃខាងក្រៅឈ្មោះ Irregular។ នៅក្នុងដំណើរការធ្វើតេស្តសមត្ថភាពសាយប័រប្រភេទ Capture-the-Flag (លំហាត់វាយប្រហារ និងស្វែងរកទិន្នន័យសម្ងាត់ដែលបានលាក់ទុក) ម៉ូឌែល Claude ត្រូវបានប្រាប់នៅក្នុងការបញ្ជា (Prompt) ថា វាស្ថិតនៅក្នុង «បរិស្ថានក្លែងធ្វើ (Simulation)» និង «គ្មានការភ្ជាប់អ៊ីនធឺណិតឡើយ» ប៉ុន្តែដោយសារកំហុសបច្ចេកទេស បរិស្ថានតេស្តនោះបែរជាមានការភ្ជាប់ទៅកាន់អ៊ីនធឺណិតពិតប្រាកដ។

ជាលទ្ធផល នៅពេល Claude ស្វែងរកគោលដៅ វាក៏បានស្វែងរកឃើញប្រព័ន្ធកុំព្យូទ័រពិតប្រាកដនៅលើអ៊ីនធឺណិត ហើយយល់ច្រឡំថាប្រព័ន្ធទាំងនោះជាផ្នែកមួយនៃលំហាត់ធ្វើតេស្ត។ ម៉ូឌែល Claude បានប្រើប្រាស់បច្ចេកទេសវាយប្រហារកម្រិតដំបូង ដូចជាការទាញយកផលប្រយោជន៍ពីពាក្យសម្ងាត់ខ្សោយ (Weak Passwords) និងចំណុចប្រហោងគ្មានការផ្ទៀងផ្ទាត់សិទ្ធិ ដើម្បីចូលទៅកាន់ទិន្នន័យនៃអង្គភាពទាំងនោះ។ Anthropic បានពិនិត្យឡើងវិញនូវកំណត់ត្រាធ្វើតេស្ត ជាង ១៤១,០០០ ករណី និងបានរកឃើញឧប្បត្តិហេតុចំនួន ៣ ដែលពាក់ព័ន្ធនឹងម៉ូឌែល Claude ចំនួន ៣ ផ្សេងគ្នា៖

1. Claude Opus 4.7៖ បានស្វែងរកឃើញគេហទំព័រក្រុមហ៊ុនពិតមួយដែលមានឈ្មោះដូចទៅនឹងក្រុមហ៊ុនក្លែងក្លាយក្នុងលំហាត់ ហើយបានជ្រៀតចូលទៅដល់មូលដ្ឋានទិន្នន័យ (Database) ផលិតកម្ម។

2. Claude Mythos 5៖ ម៉ូឌែលទំនើបចុងក្រោយបង្អស់របស់ Anthropic ដែលបានបង្កើតកញ្ចប់កម្មវិធី Python ដែលមានបង្កប់មេរោគ ហើយបង្ហោះទៅកាន់ឃ្លាំងកម្មវិធី PyPI ដោយសារវាជឿថាជាផ្នែកនៃភារកិច្ច។ កញ្ចប់កម្មវិធីនោះត្រូវបានប្រព័ន្ធពិតប្រាកដប្រមាណ ១៥ ទាញយក មុនពេលត្រូវប្រព័ន្ធសុវត្ថិភាពលុបចេញវិញក្នុងរយៈពេល ១ ម៉ោង។

3. ម៉ូឌែលស្រាវជ្រាវផ្ទៃក្នុង (Internal Research Model)៖ ម៉ូឌែលតេស្តផ្ទៃក្នុងមួយទៀតដែលមិនទាន់បានបញ្ចេញជាសាធារណៈ។
ក្រុមហ៊ុនបានបញ្ជាក់ថា ម៉ូឌែល Claude ជំនាន់ថ្មីបំផុតបានបញ្ឈប់សកម្មភាពវាយប្រហារដោយស្វ័យប្រវត្តិ នៅពេលវាដឹងខ្លួនថាវាកំពុងដំណើរការនៅលើអ៊ីនធឺណិតពិតប្រាកដ ខណៈម៉ូឌែលចាស់ៗបានបន្តដំណើរការរហូតដល់ចប់ភារកិច្ច។ លោក Dario Amodei អគ្គនាយកក្រុមហ៊ុន Anthropic និងក្រុមការងារ បានបញ្ជាក់ថា ក្រុមហ៊ុនទទួលខុសត្រូវទាំងស្រុងចំពោះកំហុសឆ្គងនេះ។

គួរជម្រាបថា ឧប្បត្តិហេតុបន្តបន្ទាប់គ្នារវាង OpenAI និង Anthropic បានបង្កឱ្យមានការព្រួយបារម្ភយ៉ាងខ្លាំងពីសំណាក់អ្នកជំនាញ និងអ្នកនយោបាយ អំពីល្បឿននៃការអភិវឌ្ឍ AI និងហានិភ័យនៃ AI ស្វ័យយ័ត (Autonomous AI)។ បុគ្គលិកជាង ១,១០០ នាក់មកពីក្រុមហ៊ុន AI ធំៗ (រួមទាំងលោក Dario Amodei ផ្ទាល់) បានចុះហត្ថលេខាលើលិខិតញត្តិអំពាវនាវឱ្យរដ្ឋាភិបាលសហរដ្ឋអាមេរិក បង្កើតយន្តការគ្រប់គ្រង និងកំណត់ល្បឿននៃការអភិវឌ្ឍ AI ដើម្បីធានាថាសុវត្ថិភាពត្រូវបានដាក់ជាអាទិភាពចម្បង មុនពេលបច្ចេកឡូជីនេះវិវត្តទៅមុខលឿនពេក រហូតដល់មិនអាចគ្រប់គ្រងបាន៕