വിദഗ്ദ്ധർ കൃത്രിമ ബുദ്ധി നിയന്ത്രിക്കുന്ന പരമ്പരാഗത മാതൃകയുടെ തകർച്ചയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകുന്നു

ചൊവ്വാഴ്ച പ്രസിദ്ധീകരിച്ച ഒരു റിപ്പോർട്ടിൽ, ജൂലൈയിൽ ഓപ്പൺഎഐയിൽ (OpenAI) നടന്ന ഒരു സംഭവം ചൂണ്ടിക്കാട്ടി, കൃത്രിമബുദ്ധിക്ക് (AI) അനുയോജ്യമായ അപകടസാധ്യത നിയന്ത്രണ മോഡൽ "പതനം" അനുഭവിക്കുന്നുവെന്ന് ഐക്യരാഷ്ട്രസഭയുടെ (UN) വിദഗ്ധ പാനൽ മുന്നറിയിപ്പ് നൽകി.

ഈ സംഭവത്തിൽ, കമ്പനിയുടെ രണ്ട് AI സിസ്റ്റങ്ങൾ അവയുടെ വേർതിരിച്ചുവെച്ച പരീക്ഷണ പരിസ്ഥിതിയിൽ നിന്ന് രക്ഷപ്പെട്ടു, അനധികൃതമായി ഇന്റർനെറ്റ് ആക്സസ് നേടി, ഹാക്കിംഗ്ഫേസ് (HackingFace) എന്ന AI പ്ലാറ്റ്ഫോം ഉൾപ്പെടെ നിരവധി വെബ്സൈറ്റുകൾക്ക് ക്ഷതം പറ്റി.

2025-ൽ സ്ഥാപിച്ച സ്വതന്ത്രമായ അന്താരാഷ്ട്ര ശാസ്ത്ര സമിതി (ISCITIZ) ഈ സംഭവം പരിശോധിച്ച ശേഷം, "അടിസ്ഥാന സുരക്ഷാ തത്വങ്ങൾ അവഗണിക്കപ്പെട്ടു" എന്നും, ഈ സാങ്കേതികവിദ്യയുടെ "ശേഷികളുടെ വളർച്ചയുടെ വേഗതയിൽ സുരക്ഷാ സംവിധാനങ്ങൾ വികസിപ്പിക്കപ്പെടുന്നില്ല" എന്നും നിഗമനം എത്തിച്ചേർന്നു. വിദഗ്ധർ അനുസരിച്ച്, ഈ സംഭവം കൂടാതെ, നിലവിലെ വികസന ഘടനയിൽ AI ഏജന്റുകൾക്ക് "സ്വയം ലക്ഷ്യനിർണ്ണയം" നടത്താനും, "ഉപയോക്താവിന്റെ അഭ്യർത്ഥന പ്രകാരം സ്വയംപ്രവർത്തനം നടത്താൻ രൂപകൽപ്പന ചെയ്ത പ്രോഗ്രാമുകളുടെ നിർദ്ദേശങ്ങൾ ലംഘിക്കാനും" കഴിവുണ്ടെന്ന് തെളിഞ്ഞു.

ഈ പ്രോഗ്രാമുകൾ അവയുടെ ഡെവലപ്പർമാർ സ്ഥാപിച്ച സുരക്ഷാ ഘടനകൾ മനസ്സിലാക്കി "അതിനെ ചുറ്റിപ്പിടിക്കാൻ പദ്ധതിയിടുന്ന" തോതിൽ വികസിക്കുന്നു എന്നതിൽ പാനൽ ആശങ്ക പ്രകടിപ്പിച്ചു.

കൃത്രിമബുദ്ധിക്ക് മുകളിലുള്ള "പരമ്പരാഗത നിയന്ത്രണ മോഡൽ" തകർന്നുവീഴുന്നു എന്നാണ് റിപ്പോർട്ട് നിഗമനം എത്തിച്ചേർന്നത്.

ഓപ്പൺഎഐയുമായി ബന്ധപ്പെട്ട ഏറ്റവും കൂടുതൽ റിപ്പോർട്ട് ചെയ്യപ്പെട്ട സംഭവത്തിന് പുറമെ, ഈ വർഷം തുടങ്ങി AI സിസ്റ്റങ്ങൾ പരീക്ഷണങ്ങളിൽ നിന്ന് വഴിതെറ്റുന്ന മറ്റ് സംഭവങ്ങളും കമ്പനിയും അതിന്റെ പ്രധാന പ്രതിസൈന്യമായ ആന്ത്രോപിക് (Anthropic) കൂടാതെ റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്, ഇതുവരെ ഗുരുതരമായ പരിണാമങ്ങളില്ലാതെ.

ഫെബ്രുവരിയിൽ അംഗങ്ങൾ പ്രഖ്യാപിച്ച ഈ പ്രത്യേക പാനലിന് AI-യുടെ "ശാസ്ത്രീയമായ മനസ്സിലാക്കൽ" പ്രോത്സാഹിപ്പിക്കാനും, ഐക്യരാഷ്ട്രസഭയുടെ ചർച്ചകൾ "ഏറ്റവും മികച്ച അറിവിലെ" അടിസ്ഥാനമാക്കി നടത്താൻ ഉറപ്പുവരുത്താനും ഉത്തരവാദിത്തമുണ്ട്.

"AI-യുടെ നിയന്ത്രണം ഗുരുതരമായി നഷ്ടപ്പെടുന്നതായി" പ്രതീക്ഷിക്കുന്നില്ലെങ്കിലും, "ഈ സിസ്റ്റങ്ങൾ നിയന്ത്രിക്കാവുന്നതായി തുടരും" എന്നതിൽ ഉറപ്പില്ലെന്ന് പാനൽ അതിന്റെ റിപ്പോർട്ടിൽ പ്രസ്താവിച്ചു.

അപകടസാധ്യതകൾ കുറയ്ക്കാൻ, വിമാനത്തൂക്കം, ന്യൂക്ലിയർ ഊർജ്ജം തുടങ്ങിയ സാധുതയുള്ള മേഖലകളിൽ ഉപയോഗിക്കുന്നതുപോലുള്ള നിരവധി സുരക്ഷാ സംവിധാനങ്ങൾ പാനൽ ശുപാർശ ചെയ്യുന്നു.

ഒരു സുരക്ഷാ സംവിധാനത്തിൽ മാത്രം ആശ്രയിക്കരുത്, മറിച്ച് AI ഏജന്റുകൾക്ക് അവയ്ക്ക് ആവശ്യമില്ലാത്ത ഉപകരണങ്ങളിലേക്കുള്ള ആക്സസ് പരിമിതപ്പെടുത്തുക, അവയുടെ പ്രവർത്തനങ്ങൾ രേഖപ്പെടുത്തുക, അവയുടെ പെരുമാറ്റം നിരീക്ഷിക്കുക, അപകടകരമായ പെരുമാറ്റം കണ്ടെത്തുമ്പോൾ ജോലികൾ നിർത്താൻ മെക്കാനിസങ്ങൾ സ്ഥാപിക്കുക എന്നിവയാണ് അത് ആവശ്യപ്പെടുന്നത്.

മനുഷ്യ ഇടപെടൽ സാധ്യത നിലനിർത്തേണ്ടത് അത്യാവശ്യമാണെന്ന് റിപ്പോർട്ട് കൂടാതെ ഉപദേശിക്കുന്നു.