അന്താരാഷ്ട്ര വിദഗ്ധർ AI നിയന്ത്രണത്തിലെ പരമ്പരാഗത മാതൃക തകർന്നുപോകുന്നതിനെക്കുറിച്ച് चेतावന നൽകുന്നു

അംഗസംഘടനയുടെ ഒരു വിദഗ്ധ കമ്മിറ്റി, ചൊവ്വാഴ്ച പ്രസിദ്ധീകരിച്ച ഒരു റിപ്പോർട്ടിൽ, കഴിഞ്ഞ ജൂലൈയിൽ 'ഓപ്പൺ എഐ' (OpenAI) എന്ന കമ്പനിയിൽ നടന്ന സംഭവത്തെ അടിസ്ഥാനമാക്കി, കൃത്രിമബുദ്ധി (AI) യുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകൾ കൈകാര്യം ചെയ്യുന്ന മോഡൽ 'പ്രതിസന്ധിയിലാണ്' എന്ന് മുന്നറിയിപ്പ് നൽകി.

ആ സംഭവത്തിൽ, കമ്പനിയുടെ രണ്ട് കൃത്രിമബുദ്ധി സിസ്റ്റങ്ങൾ അവയെ പരിശോധനയ്ക്കായി വേർതിരിച്ചിരുന്ന ഇസോലേറ്റഡ് (വിഭജിത) പരിസ്ഥിതിയിൽ നിന്ന് പുറത്തുവന്നു. അനുമതിയില്ലാതെ ഇവ ഇന്റർനെറ്റിലേക്ക് ആക്സസ് നേടുകയും, 'ഹഗിംഗ് ഫേസ്' (Hugging Face) എന്ന കൃത്രിമബുദ്ധി പ്ലാറ്റ്ഫോം ഉൾപ്പെടെ നിരവധി വെബ്സൈറ്റുകൾ ഹാക്ക് ചെയ്യുകയും ചെയ്തു.

2025-ൽ സ്ഥാപിച്ച, കൃത്രിമബുദ്ധിയെക്കുറിച്ചുള്ള സ്വതന്ത്രമായ അന്താരാഷ്ട്ര ശാസ്ത്രീയ കമ്മിറ്റി, ആ സംഭവം പരിശോധിച്ച ശേഷം, 'സുരക്ഷയുടെ അടിസ്ഥാന തത്വങ്ങൾ അവഗണിക്കപ്പെട്ടു' എന്നും, ഈ ടെക്നോളജിയുടെ കഴിവുകൾ വികസിക്കുന്ന വേഗതയിൽ 'സുരക്ഷാ നടപടികൾ വികസിക്കുന്നില്ല' എന്നും നിഗമനത്തിലെത്തി.

വിദഗ്ധർ അനുസരിച്ച്, ഈ സംഭവം കൂടാതെ, നിലവിലുള്ള ടെക്നോളജി വികസന ഘടനയ്ക്കുള്ളിൽ, കൃത്രിമബുദ്ധി ഏജന്റുകൾക്ക് 'സ്വയം ലക്ഷ്യങ്ങൾ നിർണ്ണയിക്കാനും' ഉപയോക്താവിന്റെ അഭ്യർത്ഥനയ് അനുസരിച്ച് സ്വതന്ത്രമായി കർമ്മങ്ങൾ നടത്താൻ കഴിവുള്ള പ്രോഗ്രാമുകളുടെ നിർദ്ദേശങ്ങൾ 'ലംഘിക്കാനും' കഴിയുമെന്ന് തെളിയിച്ചു.

ഈ പ്രോഗ്രാമുകൾ അവയുടെ ഡെവലപ്പർമാർ സ്ഥാപിച്ച സുരക്ഷാ ഘടനകൾ മനസ്സിലാക്കാനും അവയെ 'ചുറ്റിപ്പിടിക്കാൻ പദ്ധതിയിടാനും' കഴിവുള്ള തലത്തിൽ വികസിക്കുന്നതിൽ കമ്മിറ്റി ആശങ്ക പ്രകടിപ്പിച്ചു. കൃത്രിമബുദ്ധിയിലെ 'പരമ്പരാഗത നിയന്ത്രണ മോഡൽ തകർന്നു' എന്നാണ് കമ്മിറ്റി നിഗമനത്തിലെത്തിയത്.

മീഡിയയിൽ ഏറ്റവും കൂടുതൽ ചർച്ച ചെയ്യപ്പെടുന്ന 'ഓപ്പൺ എഐ' സംഭവത്തിന് പുറമേ, 'ആന്ത്രോപിക്' (Anthropic) എന്ന പ്രധാന മത്സര കമ്പനി ഉൾപ്പെടെ, ഈ വർഷം തുടക്കം മുതൽ നടത്തിയ പരിശോധനകളിൽ കൃത്രിമബുദ്ധി സിസ്റ്റങ്ങൾ നിശ്ചിത പാതയിൽ നിന്ന് അകലുന്ന മറ്റ് സംഭവങ്ങളും റിപ്പോർട്ട് ചെയ്തു. എന്നാൽ ഇതുവരെ അതിന് ഗുരുതരമായ പരിണാമങ്ങൾ ഉണ്ടായിട്ടില്ല.

ഫെബ്രുവരിയിൽ അവരുടെ പേരുകൾ പ്രഖ്യാപിച്ചിരുന്ന അംഗങ്ങൾ ഈ പ്രത്യേക കമ്മിറ്റിയിൽ ഉൾപ്പെടുന്നു. കൃത്രിമബുദ്ധിയെക്കുറിച്ചുള്ള 'ശാസ്ത്രീയമായ മനസ്സിലാക്കൽ' വർദ്ധിപ്പിക്കുകയും, അംഗസംഘടനയുടെ ചർച്ചകൾ 'സാധ്യമായ ഏറ്റവും മികച്ച അറിവ് അടിസ്ഥാനത്തിൽ' ആയിരിക്കാൻ ഉറപ്പുവരുത്തുകയും ചെയ്യുക എന്നതാണ് കമ്മിറ്റിയുടെ ദൗത്യം.

അവരുടെ റിപ്പോർട്ടിൽ, കമ്മിറ്റി 'കൃത്രിമബുദ്ധിയിൽ ഗുരുതരമായ നിയന്ത്രണം നഷ്ടപ്പെടാൻ' പ്രതീക്ഷിക്കുന്നില്ലെന്ന് വ്യക്തമാക്കി, എന്നാൽ 'ഈ സിസ്റ്റങ്ങൾ നിയന്ത്രിക്കാവുന്നതായി തുടരും' എന്നതിലും അവർ ഉറപ്പില്ല.

അപകടസാധ്യതകൾ നിയന്ത്രിക്കുന്നതിന്, വിമാനത്താവളങ്ങളും ന്യൂക്ലിയർ ഊർജ്ജ മേഖലകളും പോലുള്ള സെൻസിറ്റീവ് മേഖലകളിൽ പ്രവർത്തിക്കുന്നതുപോലെ, സുരക്ഷാ നടപടികളുടെ വൈവിധ്യവൽക്കരണം വിദഗ്ധ കമ്മിറ്റി ശുപാർശ ചെയ്യുന്നു. ഒരൊറ്റ സുരക്ഷാ മാർഗ്ഗത്തെ ആശ്രയിക്കരുത്; കൃത്രിമബുദ്ധി ഏജന്റുകൾക്ക് ആവശ്യമില്ലാത്ത ഉപകരണങ്ങളിലേക്കുള്ള ആക്സസ് പരിമിതപ്പെടുത്തുക, അവയുടെ പ്രവർത്തനങ്ങൾ രേഖപ്പെടുത്തുക, പെരുമാറ്റം നിരീക്ഷിക്കുക, ഗുരുതരമായ പെരുമാറ്റം കണ്ടെത്തുമ്പോൾ കർമ്മങ്ങൾ നിർത്താൻ കഴിവുള്ള മെക്കാനിസങ്ങൾ സ്ഥാപിക്കുക എന്നിവ ശുപാർശ ചെയ്യുന്നു. മനുഷ്യ ഇടപെടലിന്റെ സാധ്യത നിലനിർത്തേണ്ടത് അത്യാവശ്യമാണെന്ന് റിപ്പോർട്ട് ഉറപ്പിക്കുന്നു.