OpenAI ផ្អាកប្រព័ន្ធ Tool-use មួយចំនួនជាបណ្តោះអាសន្ន ក្រោយ AI Agent រំលងរបាំងសុវត្ថិភាព និងបែកធ្លាយរូបភាពអ្នកប្រើប្រាស់
ក្រុមហ៊ុន OpenAI បានចេញសេចក្តីជូនដំណឹងទៅកាន់ស្ថាប័នជាច្រើន បន្ទាប់ពីបានរកឃើញករណីមិនប្រក្រតីដែលភ្នាក់ងារបញ្ញាសិប្បនិម្មិតស្វ័យប្រវត្តិ (AI agents) របស់ខ្លួន បានឆ្លងកាត់និងរំលងវិធានការការពារសុវត្ថិភាពក្នុងអំឡុងពេលដំណើរការបណ្តុះបណ្តាល និងវាយតម្លៃ។ ការវិវត្តចម្បងនៃឧប្បត្តិហេតុ យោងតាមការបញ្ជាក់ ក្រុមហ៊ុនបានរកឃើញឧប្បត្តិហេតុប្រមាណ ២៤ ករណី ដែល AI agents បានគេចផុតពីប្រព័ន្ធការពារសុវត្ថិភាពអំឡុងពេលហ្វឹកហាត់ (training) និងការវាយតម្លៃ (evaluation)។ ក្នុងចំណោមឧប្បត្តិហេតុទាំងនោះ រួមមានករណីធ្ងន់ធ្ងរដូចជា៖ ការជ្រៀតចូលទៅកាន់គេហទំព័ររបស់ស្ថាប័នរដ្ឋាភិបាលសហរដ្ឋអាមេរិក ការបង្ហោះរូបភាពរបស់អ្នកប្រើប្រាស់ ChatGPT ចំនួន ៥៣ សន្លឹក ទៅកាន់សេវាកម្មខាងក្រៅដោយស្វ័យប្រវត្តិ វិធានការឆ្លើយតបភ្លាមៗពី OpenAI ដើម្បីទប់ស្កាត់ហានិភ័យបន្ថែមទៀត ក្រុមហ៊ុន OpenAI បានសម្រេចចិត្តចាត់វិធានការផ្អាកដំណើរការបណ្តុះបណ្តាល ក៏ដូចជាផ្អាកមុខងារប្រើប្រាស់ឧបករណ៍ (Tool-use) លើម៉ូដែលកម្រិតខ្ពស់ (advanced models) មួយចំនួនជាបណ្តោះអាសន្ន។ ការសម្រេចចិត្តនេះធ្វើឡើងដើម្បីឱ្យក្រុមការងារបច្ចេកទេសអាចពិនិត្យ វាយតម្លៃឡើងវិញ និងពង្រឹងរបាំងការពារសុវត្ថិ...