ក្រុមហ៊ុន OpenAI សម្រេចផ្អាកការបញ្ចេញម៉ូឌែល GPT-6.1 Astra ដោយសារបារម្ភពីសុវត្ថិភាព និងការគ្រប់គ្រងមិនទាន់ដល់ស្ដង់ដារ

ក្រុមហ៊ុន OpenAI បានសម្រេចចិត្តផ្អាកការបញ្ចេញម៉ូឌែល AI ជំនាន់ចុងក្រោយរបស់ខ្លួន GPT-6.1 Astra ជាបណ្ដោះអាសន្ន បន្ទាប់ពីការធ្វើតេស្តផ្ទៃក្នុងបានរកឃើញថា ម៉ូឌែលនេះមិនទាន់ឆ្លើយតបបានតាមស្ដង់ដារសុវត្ថិភាពខ្ពស់ និងការកំណត់ដែនសមត្ថភាពនោះឡើយ។ ការសម្រេចចិត្តនេះត្រូវបានធ្វើឡើងចំពេលដែលមានការព្រួយបារម្ភកាន់តែខ្លាំងឡើងជុំវិញបញ្ហា AI ដំណើរការខុសប្រក្រតី។

ការរកឃើញពីការធ្វើតេស្តផ្ទៃក្នុង និងបញ្ហាគ្រប់គ្រង

ផ្អែកលើការធ្វើតេស្តផ្ទៃក្នុង (internal testing) របស់ក្រុមហ៊ុន OpenAI បានបង្ហាញឱ្យឃើញថាម៉ូឌែល GPT-6.1 Astra មិនទាន់អាចបំពេញបានតាមស្ដង់ដារសុវត្ថិភាព និងការកំណត់ដែនសមត្ថភាព (scope and authorization) ឱ្យបានត្រឹមត្រូវនៅឡើយទេ។ ចំណុចខ្វះខាតទាំងនេះបានជំរុញឱ្យក្រុមហ៊ុនសម្រេចចិត្តផ្អាកការដាក់ឱ្យដំណើរការជាសាធារណៈ ដើម្បីធានាថាប្រព័ន្ធបច្ចេកវិទ្យានេះស្ថិតនៅក្រោមការគ្រប់គ្រងយ៉ាងម៉ត់ចត់។

ជំហររបស់ថ្នាក់ដឹកនាំផ្នែកសុវត្ថិភាព

លោកស្រី Saachi Jain ប្រធានផ្នែកប្រព័ន្ធសុវត្ថិភាព (Safety Systems) របស់ក្រុមហ៊ុន OpenAI បានបញ្ជាក់យ៉ាងច្បាស់ថា ក្រុមហ៊ុនត្រូវតែប្រកាន់ខ្ជាប់ និងរក្សាកម្រិតសុវត្ថិភាពខ្ពស់បំផុតទាក់ទងនឹងការតម្រឹមគោលការណ៍ (alignment) មុនពេលសម្រេចដាក់ឱ្យអ្នកប្រើប្រាស់ទូទៅដំណើរការម៉ូឌែលនេះ។ ការដាក់ចេញនូវវិធានការប្រុងប្រយ័ត្ននេះ គឺដើម្បីឆ្លើយតបទៅនឹងការព្រួយបារម្ភដែលកំពុងកើនឡើងចំពោះហានិភ័យនៃដំណើរការខុសប្រក្រតីរបស់បច្ចេកវិទ្យាបញ្ញាសិប្បនិម្មិត។

សារៈសំខាន់ចំពោះវិស័យ AI និងការប្រកួតប្រជែង

ការពន្យារពេលរបស់ក្រុមហ៊ុនឈានមុខគេលើពិភពលោកដូចជា OpenAI បានបង្ហាញឱ្យឃើញពីបញ្ហាប្រឈមដ៏ធំធេងក្នុងការគ្រប់គ្រងបច្ចេកវិទ្យា AI Agents កម្រិតខ្ពស់។ ព្រឹត្តិការណ៍នេះឆ្លុះបញ្ចាំងយ៉ាងច្បាស់ថា ទោះបីជាការប្រណាំងប្រជែងក្នុងការអភិវឌ្ឍបច្ចេកវិទ្យាមានសន្ទុះខ្លាំងក្លាយ៉ាងណាក៏ដោយ ក៏ការបង្កើតប្រព័ន្ធ AI ជំនាន់ថ្មីនៅតែជួបប្រទះនូវឧបសគ្គផ្នែកសុវត្ថិភាពពិតប្រាកដដែលមិនអាចមើលរំលងបាន។

ក្រុមអ្នកដែលគួរតាមដានការវិវត្តនេះ

ការផ្អាកម៉ូឌែល GPT-6.1 Astra នេះ គឺជាចំណុចដែលភាគីពាក់ព័ន្ធជាច្រើនគួរយកចិត្តទុកដាក់តាមដាន រួមមាន៖

• អ្នកអភិវឌ្ឍន៍បច្ចេកវិទ្យា AI៖ ត្រូវស្វែងយល់បន្ថែមអំពីឧបសគ្គផ្នែកសុវត្ថិភាព និងការគ្រប់គ្រងដែនសមត្ថភាព (scope and authorization) ក្នុងការរចនាប្រព័ន្ធ។
• ក្រុមហ៊ុន និងស្ថាប័នអាជីវកម្ម៖ ស្ថាប័នដែលកំពុងរង់ចាំការមកដល់នៃបច្ចេកវិទ្យាជំនាន់ថ្មីដើម្បីយកទៅប្រើប្រាស់ក្នុងប្រតិបត្តិការការងារ។
• ស្ថាប័នគ្រប់គ្រងសុវត្ថិភាពឌីជីថល៖ និយ័តករ និងស្ថាប័នទទួលបន្ទុកសុវត្ថិភាពឌីជីថលដែលតាមដានការអភិវឌ្ឍប្រព័ន្ធដើម្បីការពារហានិភ័យជាយថាហេតុ។

ប្រភព: Al Jazeera

អានប្រភពដើម