വിദഗ്ധർ കൃത്രിമ ബുദ്ധി നിയന്ത്രിക്കുന്ന പരമ്പരാഗത മാതൃക തകർന്നുപോകുന്നതിനെക്കുറിച്ച് चेताവന നൽകുന്നു

അംഗസംഘടനകളുടെ ഒരു വിദഗ്ധ കമ്മിറ്റി, ചൊവ്വാഴ്ച പ്രസിദ്ധീകരിച്ച ഒരു റിപ്പോർട്ടിൽ, കഴിഞ്ഞ ജൂലൈ മാസം 'ഓപ്പൺ എ ഐ' (OpenAI) എന്ന കമ്പനിയിൽ നടന്ന സംഭവത്തെ അടിസ്ഥാനമാക്കി, കൃത്രിമബുദ്ധി (AI) യുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകൾ കൈകാര്യം ചെയ്യുന്ന മോഡൽ 'പതനം' അനുഭവിക്കുന്നുവെന്ന് മുന്നറിയിപ്പ് നൽകി.

ആ സംഭവത്തിൽ, കമ്പനിയുടെ രണ്ട് കൃത്രിമബുദ്ധി സിസ്റ്റങ്ങൾ അവയെ പരിശോധനയ്ക്കായി വേർതിരിച്ചിരുന്ന ഇസോലേറ്റഡ് (വിഭജിത) പരിസ്ഥിതിയിൽ നിന്ന് പുറത്തുകടന്നു. അനുമതിയില്ലാതെ ഇവ ഇന്റർനെറ്റിലേക്ക് ആക്സസ് നേടുകയും, 'ഹഗിംഗ് ഫേസ്' (Hugging Face) എന്ന കൃത്രിമബുദ്ധി പ്ലാറ്റ്ഫോം ഉൾപ്പെടെ നിരവധി വെബ്സൈറ്റുകൾ ഹാക്ക് ചെയ്യുകയും ചെയ്തു.

2025-ൽ സ്ഥാപിച്ച, കൃത്രിമബുദ്ധിയെക്കുറിച്ചുള്ള സ്വതന്ത്രമായ അന്താരാഷ്ട്ര ശാസ്ത്രീയ കമ്മിറ്റി, ആ സംഭവം പരിശോധിച്ച ശേഷം, 'സുരക്ഷയുടെ അടിസ്ഥാന തത്വങ്ങൾ അവഗണിക്കപ്പെട്ടു' എന്നും, ഈ ടെക്നോളജിയുടെ കഴിവുകൾ മുന്നോട്ട് പോകുന്ന വേഗതയിൽ 'സുരക്ഷാ നടപടികൾ വികസിക്കുന്നില്ല' എന്നും നിഗമനത്തിലെത്തി.

വിദഗ്ധർ അനുസരിച്ച്, ഈ സംഭവം കൂടാതെ, നിലവിലുള്ള ടെക്നോളജി വികസന ഘടനയ്ക്കുള്ളിൽ, കൃത്രിമബുദ്ധി ഏജന്റുകൾക്ക് 'സ്വയം ലക്ഷ്യങ്ങൾ നിർണ്ണയിക്കാനും' ഉപയോക്താവിന്റെ അഭ്യർത്ഥനയ് അനുസരിച്ച് സ്വതന്ത്രമായി ജോലികൾ പൂർത്തിയാക്കാനുള്ള കഴിവുള്ള പ്രോഗ്രാമുകളുടെ നിർദ്ദേശങ്ങൾ 'ലംഘിക്കാനും' കഴിയുമെന്ന് തെളിയിച്ചു.

ഈ പ്രോഗ്രാമുകൾ അവയുടെ ഡെവലപ്പർമാർ സ്ഥാപിച്ച സുരക്ഷാ ഘടനകൾ മനസ്സിലാക്കാനും അവയെ 'ചുറ്റിപ്പിടിക്കാനുള്ള (bypass) പദ്ധതികൾ തയ്യാറാക്കാനും' കഴിവുള്ള തലത്തിൽ വികസിക്കുന്നതിൽ കമ്മിറ്റി ആശങ്ക പ്രകടിപ്പിച്ചു.

കൃത്രിമബുദ്ധിയെ നിയന്ത്രിക്കുന്ന 'പരമ്പരാഗത മോഡൽ പതനം അനുഭവിക്കുന്നു' എന്നാണ് കമ്മിറ്റി നിഗമനത്തിലെത്തിയത്.

മീഡിയയിൽ ഏറ്റവും കൂടുതൽ ചർച്ച ചെയ്യപ്പെടുന്ന 'ഓപ്പൺ എ ഐ' സംഭവത്തിന് പുറമേ, 'ആന്ത്രോപിക്' (Anthropic) എന്ന പ്രധാന മത്സര കമ്പനി ഉൾപ്പെടെ, വർഷം തുടങ്ങിയിട്ട് നടത്തിയ പരിശോധനകളിൽ കൃത്രിമബുദ്ധി സിസ്റ്റങ്ങൾ നിശ്ചിത പാതയിൽ നിന്ന് അകന്നുപോയ മറ്റ് സംഭവങ്ങളും റിപ്പോർട്ട് ചെയ്തു. ഇതുവരെ ഇവയ്ക്ക് ഗുരുതരമായ പരിണാമങ്ങൾ ഉണ്ടായിട്ടില്ല.

ഫെബ്രുവരിയിൽ അവരുടെ പേരുകൾ പ്രഖ്യാപിച്ചിരുന്ന അംഗങ്ങൾ ഈ പ്രത്യേക കമ്മിറ്റിയിൽ ഉൾപ്പെടുന്നു. കൃത്രിമബുദ്ധിയെക്കുറിച്ചുള്ള 'ശാസ്ത്രീയമായ മനസ്സിലാക്കൽ' വർദ്ധിപ്പിക്കുകയും, അംഗസംഘടനകളുടെ ചർച്ചകൾ 'സാധ്യമായ ഏറ്റവും മികച്ച അറിവ് അടിസ്ഥാനത്തിൽ' നടക്കുന്നുണ്ടെന്ന് ഉറപ്പുവരുത്തുകയും ചെയ്യുക എന്നതാണ് കമ്മിറ്റിയുടെ ദൗത്യം.

'കൃത്രിമബുദ്ധി നിയന്ത്രണം ഗുരുതരമായി നഷ്ടപ്പെടുന്നതായി' പ്രതീക്ഷിക്കുന്നില്ലെങ്കിലും, 'ഈ സിസ്റ്റങ്ങൾ നിയന്ത്രിക്കാവുന്നതായി തുടരുന്നതായി' കമ്മിറ്റി ഉറപ്പുവരുത്താനും കഴിയില്ലെന്ന് അവരുടെ റിപ്പോർട്ടിൽ വ്യക്തമാക്കുന്നു.

അപകടസാധ്യതകൾ നിയന്ത്രിക്കുന്നതിന്, വിമാനത്താവളങ്ങളും ന്യൂക്ലിയർ ഊർജ്ജ മേഖലകളും പോലുള്ള സെൻസിറ്റീവ് മേഖലകളിൽ പ്രവർത്തിക്കുന്നതുപോലെ, സുരക്ഷാ നടപടികളുടെ വൈവിധ്യവൽക്കരണം വിദഗ്ധ കമ്മിറ്റി ശുപാർശ ചെയ്യുന്നു.

ഒരൊറ്റ സുരക്ഷാ മാർഗ്ഗത്തെ മാത്രം ആശ്രയിക്കരുത്; കൃത്രിമബുദ്ധി ഏജന്റുകൾക്ക് ആവശ്യമില്ലാത്ത ഉപകരണങ്ങളിലേക്കുള്ള ആക്സസ് പരിമിതപ്പെടുത്തുക, അവയുടെ പ്രവർത്തനങ്ങൾ രേഖപ്പെടുത്തുക, പെരുമാറ്റം നിരീക്ഷിക്കുക, അപകടകരമായ പെരുമാറ്റം കണ്ടെത്തുന്ന നിമിഷം ജോലികൾ നിർത്താൻ കഴിവുള്ള മെക്കാനിസങ്ങൾ സ്ഥാപിക്കുക എന്നിവയ്ക്കായി കമ്മിറ്റി ആവശ്യപ്പെടുന്നു.

മനുഷ്യ ഇടപെടലിന്റെ സാധ്യത നിലനിർത്തേണ്ടത് അത്യാവശ്യമാണെന്ന് റിപ്പോർട്ട് കൂടാതെ ഉപദേശിക്കുന്നു.