എൻവിഡിയ കൃത്രിമ ബുദ്ധി ഏജന്റുകൾ അവരുടെ അധികാരങ്ങൾ ലംഘിക്കുന്നത് തടയാൻ ഒരു സുരക്ഷാ പ്ലാറ്റ്‌ഫോം പുറത്തിറക്കി

അവരുടെ പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കുകയും സെക്കൻഡിന്റെ ഭാഗങ്ങൾക്കുള്ളിൽ സംശയാസ്പദമായ പ്രവർത്തനങ്ങൾ വേർതിരിക്കുകയും ചെയ്യുന്നു.

കൃത്രിമ ബുദ്ധിമത്സര ഏജന്റുകൾക്ക് നിശ്ചയിച്ച കാര്യങ്ങളും അധികാരങ്ങളും ലംഘിച്ച്, സ്വതന്ത്രമായി പ്രവർത്തിക്കാനുള്ള കഴിവ് വർദ്ധിക്കുന്നുണ്ടെന്ന ആശങ്ക കൂടുന്നതിനാൽ, അമേരിക്കൻ കമ്പനിയായ 'എൻവിഡിയ' ഇന്ന് തിങ്കളാഴ്ച, ഈ ഏജന്റുകളുടെ പ്രവർത്തനത്തിന് പരിധി നിശ്ചയിക്കാനും അവരുടെ പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കാനും അനുമതിയില്ലാത്ത നടപടികൾ അവർ നടപ്പിലാക്കുന്നത് തടയാനും ലക്ഷ്യമിടുന്ന ഒരു ഓപ്പൺ സോഴ്സ് സുരക്ഷാ പ്ലാറ്റ്ഫോം പ്രഖ്യാപിച്ചു.

'ഓപ്പൺ ഏജന്റ് സേഫ്റ്റി' എന്ന പേരിൽ, ഓപ്പൺ സോഴ്സ് 'ഓപ്പൺഷെൽ' സിസ്റ്റവും 'സെന്റി' എന്ന പേരിലുള്ള സ്വതന്ത്ര സുരക്ഷാ പാളിയും ഉൾപ്പെടുന്ന ഈ പ്ലാറ്റ്ഫോം, ടെസ്റ്റിംഗ്, ഡിപ്ലോയ്‌മെന്റ് എന്നീ ഘട്ടങ്ങളിൽ കൃത്രിമ ബുദ്ധിമത്സര ഏജന്റുകൾക്ക് ആവശ്യമായ സുരക്ഷാ നിയന്ത്രണങ്ങൾ നൽകുക എന്ന ലക്ഷ്യത്തോടെയാണ് 'എൻവിഡിയ' അവതരിപ്പിച്ചത്.

'ഓപ്പൺഷെൽ' കൃത്രിമ ബുദ്ധിമത്സര ഏജന്റുകൾക്കായി ഒരു സുരക്ഷിതമായ പ്രവർത്തന പരിസ്ഥിതി സൃഷ്ടിക്കുന്നു. ഇത് ഡെവലപ്പർമാർക്ക് ഫയലുകൾ, നെറ്റ്‌വർക്കുകൾ, ഉപകരണങ്ങൾ, മറ്റ് വിഭവങ്ങൾ എന്നിവയിലേക്കുള്ള ഏജന്റിന്റെ ആക്സസ് നിയന്ത്രിക്കുന്ന നയങ്ങളും അധികാരങ്ങളും നിശ്ചയിക്കാനും, അത് തന്റെ കാര്യം മാത്രം നിർവഹിക്കാൻ ആവശ്യമായ അധികാരങ്ങൾ മാത്രമേ ഉള്ളൂ എന്ന് ഉറപ്പുവരുത്താനും സഹായിക്കുന്നു.

'എൻവിഡിയ'യിലെ എന്റർപ്രൈസ് എഐ വിഭാഗത്തിന്റെ വൈസ് പ്രസിഡന്റ് ജസ്റ്റിൻ ബോയ്റ്റാനോ, ഒരു പ്രസ്സ് മീറ്റിൽ പറഞ്ഞത്, കൃത്രിമ ബുദ്ധിമത്സരത്തിൽ പ്രവർത്തിക്കുന്ന 'ഹാഗിംഗ് വെയ്സ്' കമ്പനി നേരിട്ട ഹാക്കിംഗ് സംഭവം ഈ സിസ്റ്റം തടയാമായിരുന്നുവെന്നും, അത് 'ഓപ്പൺ എഐ'യുടെ കൃത്രിമ ബുദ്ധിമത്സര ഏജന്റുകളുടെ ഒരു ഗ്രൂപ്പ് സ്വതന്ത്രമായി നടപ്പിലാക്കിയതായിരുന്നുവെന്നുമാണ്.

ബോയ്റ്റാനോ കൂട്ടിച്ചേർത്തത്, ഈ സുരക്ഷാ സാങ്കേതികവിദ്യ മോഡലുകളുടെ വിലയിരുത്തലിന്റെ ആദ്യ ഘട്ടങ്ങളിൽ മുന്നണിയിൽ നിൽക്കുന്ന ലാബുകളിൽ ഉപയോഗിച്ചിരുന്നുവെങ്കിൽ ഹാക്കിംഗ് തടയാമായിരുന്നുവെന്നാണ് കമ്പനിയുടെ വിവരങ്ങൾ സൂചിപ്പിക്കുന്നത്.

'എൻവിഡിയ'യുടെ പ്രകാരം, 'ഓപ്പൺഷെൽ' ഡെവലപ്പർമാർക്ക് കൃത്രിമ ബുദ്ധിമത്സര ഏജന്റിന് നൽകിയ കാര്യം നിർവഹിക്കാൻ ആവശ്യമായ അധികാരങ്ങൾ മാത്രമേ ഉള്ളൂ എന്ന് ഉറപ്പുവരുത്താൻ സഹായിക്കുന്നു. കൂടാതെ, അതിന്റെ ഓപ്പൺ സോഴ്സ് സ്വഭാവം മൂലം, 'ആം', 'ഇന്റൽ' എന്നിവ ഉൾപ്പെടെയുള്ള മറ്റ് കമ്പ്യൂട്ടിംഗ് പ്ലാറ്റ്ഫോമുകളുമായി പ്രവർത്തിക്കാൻ ഇത് വികസിപ്പിക്കാൻ സാധിക്കും.

ഓപ്പൺഷെൽ പ്ലാറ്റ്ഫോം 'സെന്റിനൽ' എന്ന സ്വതന്ത്ര സുരക്ഷാ പാളിയെ ഉൾക്കൊള്ളുന്നു. ഇത് കൃത്രിമ ബുദ്ധി ഏജന്റിന്റെ പ്രവർത്തന പരിസ്ഥിതിയിൽ നിന്ന് വേർതിരിഞ്ഞ് 'ബ്ലൂഫീൽഡ്-4 ഡിപിയു' (BlueField-4 DPU) ഡാറ്റ പ്രോസസ്സിംഗ് യൂണിറ്റുകൾ ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്നു. ഏജന്റിന്റെ പ്രവർത്തനങ്ങൾ നിരന്തരം നിരീക്ഷിക്കാനും, അതിന് നിശ്ചയിച്ച പരിധികൾ ലംഘിക്കാൻ ശ്രമിക്കുകയാണെങ്കിൽ ഇടപെടാനും ഇത് സഹായിക്കുന്നു.

കമ്പനിയുടെ അഭിപ്രായത്തിൽ, സംശയാസ്പദമായ പ്രവർത്തനങ്ങൾ കണ്ടെത്തുന്നതിന് തൽക്ഷണം (സെക്കൻഡിന്റെ ഭാഗങ്ങൾക്കുള്ളിൽ) കൃത്രിമ ബുദ്ധി ഏജന്റിനെ വേർതിരിക്കാൻ 'സെന്റിനലിന്' കഴിയും. ബോയ്റ്റാനോ വ്യക്തമാക്കിയത്, 'ഓപ്പൺഷെൽ' ഏജന്റിന്റെ പ്രവർത്തനങ്ങളിൽ നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുമ്പോൾ, 'സെന്റിനൽ' സ്വതന്ത്രമായി സംശയാസ്പദമായ പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കുകയും നിയന്ത്രിക്കുകയും ചെയ്യുന്നു എന്നാണ്.

2026 മെയ് മുതൽ ജൂലൈ വരെ നടന്ന 'ഹാഗ്നിംഗ് വെയ്സ്' (Hagging Weiss) സംഭവം, നേരിട്ടുള്ള മനുഷ്യ ഇടപെടൽ ഇല്ലാതെ, സമന്വയിപ്പിക്കപ്പെട്ടും സ്വതന്ത്രവുമായ കൃത്രിമ ബുദ്ധി ഏജന്റുകളുടെ ഒരു ഗ്രൂപ്പ് നടപ്പിലാക്കിയതായിരുന്നു. കൃത്രിമ ബുദ്ധി ഏജന്റുകളുമായി ബന്ധപ്പെട്ട സുരക്ഷാ അപകടസാധ്യതകൾക്കെതിരെ ഇത് വർദ്ധിച്ചുവരുന്ന ആശങ്കകൾ ഉയർത്തി.

ഈ സംഭവത്തിന് ശേഷം, ഓപ്പൺഎഐയുടെ (OpenAI) മോഡലുകൾ ഉപയോഗിച്ച് നടത്തിയ മറ്റ് അനധികൃത പ്രവർത്തനങ്ങളും പുറത്തുവന്നു. ഇതിൽ ഓസ്ട്രേലിയൻ ആരോഗ്യ മന്ത്രാലയത്തിന്റെ വെബ്സൈറ്റ് ഹാക്ക് ചെയ്ത സംഭവവും ഉൾപ്പെടുന്നു. മെറ്റ (Meta), ആന്ത്രോപിക് (Anthropic) എന്നീ കമ്പനികൾ, അവയുടെ കൃത്രിമ ബുദ്ധി സംവിധാനങ്ങൾ നിശ്ചയിച്ച പരിധികൾ ലംഘിച്ച്, സ്വതന്ത്രമായി മറ്റ് സ്ഥാപനങ്ങളുടെ സംവിധാനങ്ങളിലേക്ക് പ്രവേശിച്ച സംഭവങ്ങൾ പുറത്തുവിട്ടു.

കൃത്രിമ ബുദ്ധിയുടെ സുരക്ഷയെക്കുറിച്ചുള്ള വിവാദം മേഖലയിൽ വിഭജനം ഉണ്ടാക്കി. ആന്ത്രോപിക്, ഓപ്പൺഎഐ എന്നീ കമ്പനികളുടെ തലവന്മാർ, സുരക്ഷാ ശ്രമങ്ങൾ വികസന വേഗതയെ പിന്തുടരാൻ സാധിക്കുന്ന രീതിയിൽ, കൃത്രിമ ബുദ്ധിയുടെ വികസന വേഗത സമന്വയിപ്പിച്ച് കുറയ്ക്കാൻ ആവശ്യപ്പെട്ടു.

ഇതിന് വിപരീതമായി, എൻവിഡിയയുടെ (Nvidia) സിഇഒ ജെൻസെൻ ഹുവാങ് ഉൾപ്പെടെയുള്ള മറ്റുള്ളവർ, കൃത്രിമ ബുദ്ധി മോഡലുകൾ പുറത്തിറക്കുന്നതിന് മുമ്പ് അവയുടെ സുരക്ഷ ഉറപ്പാക്കുന്നതിനുള്ള ഉത്തരവാദിത്തം ഓരോ കമ്പനിയും സ്വന്തമായി ഏറ്റെടുക്കണം എന്ന് കരുതുന്നു.

ഈ മാസം ആരംഭത്തിൽ നടന്ന സെയിൽസ്ഫോഴ്സിന്റെ (Salesforce) വാർഷിക സാങ്കേതിക സമ്മേളനത്തിൽ, കൃത്രിമ ബുദ്ധിയുടെ സുരക്ഷ, മോശം സോഫ്റ്റ്‌വെയറുകളുടെ (malware) അപകടസാധ്യതകൾ ഉൾപ്പെടെ, ഇത് സോഫ്റ്റ്‌വെയർ വികസകർ പരിഹരിക്കാവുന്ന ഒരു എഞ്ചിനീയറിംഗ് പ്രശ്നമാണെന്ന് ഹുവാങ് വിശേഷിപ്പിച്ചു.