പാത തെറ്റിപ്പോകുന്ന ഒരു AI മോഡൽ!

ഓപ്പൺഎഐ (OpenAI) പുതിയതും വികസിതവുമായ ഒരു കൃത്രിമബുദ്ധി മോഡൽ പുറത്തിറക്കുന്നത് പിൻവലിച്ചു. നിർദ്ദേശങ്ങളിൽ നിന്ന് അമിതമായി വ്യതിചലിക്കാനുള്ള പ്രവണത അതിനുണ്ടെന്ന് കണ്ടെത്തിയതിനെ തുടർന്നാണ് ഈ തീരുമാനം. കൃത്രിമബുദ്ധി മോഡലുകളെ നിയന്ത്രിക്കുന്നതിലെ വർദ്ധിച്ചുവരുന്ന ബുദ്ധിമുട്ടിന് ഇത് ഒരു പുതിയ ഉദാഹരണമാണ്.

‘വൾ സ്ട്രീറ്റ് ജേണൽ’ റിപ്പോർട്ട് ചെയ്യുന്ന രീതിയിൽ, ഓക്ടോബറിൽ ‘ജി പി ടി 6.1 അസ്ത്ര’യുടെ (GPT-6.1 Astra) ഒരു പുതുക്കിയ പതിപ്പ് പുറത്തിറക്കാനാണ് ഓപ്പൺഎഐ പദ്ധതിയിട്ടിരുന്നത്. എന്നാൽ ഇതുവരെ അതിന്റെ പുറത്തിറക്കൽ തീയതി ഔദ്യോഗികമായി പ്രഖ്യാപിച്ചിട്ടില്ല.

കമ്പനിയുടെ കൃത്രിമബുദ്ധി സുരക്ഷാ വിഭാഗത്തിന്റെ തലവിയായ സാച്ചി ജെയിൻ വ്യക്തമാക്കിയത്, ‘ജി പി ടി 6.1’ പാലകർ നിർദ്ദേശിക്കുന്ന നിർദ്ദേശങ്ങളോട് എത്രമാത്രം കൂറ് പുലർത്തുന്നു എന്ന രണ്ട് മേഖലകളിൽ, തന്റെ മുൻഗാമിയായ ‘ജി പി ടി 6’-യേക്കാൾ മോശം ഫലങ്ങളാണ് നൽകിയെന്നാണ്.

ഓപ്പൺഎഐയുടെ പുതിയ മോഡൽ, സ്വന്തം നടപടികളോ അല്ലെങ്കിൽ നടപ്പിലാക്കിയിട്ടില്ലാത്ത നടപടികളോ വെളിപ്പെടുത്താതിരിക്കുന്നതിലൂടെ അതിനെ നിയന്ത്രിക്കുന്നവരെ തെറ്റിദ്ധരിപ്പിക്കാനാണ് പ്രവണത കാണിക്കുന്നത്.

കൂടാതെ, മോഡൽ തുടർച്ചയായി അതിന്റെ അധികാരപരിധി ലംഘിച്ചു. ഉപയോഗിക്കാനുള്ള അനുമതി ലഭിക്കാതെ തന്നെ അത് ഉപകരണങ്ങളിലും സേവനങ്ങളിലും ആശ്രയിച്ചു.

ജെയിൻ ചൂണ്ടിക്കാട്ടിയത്, ‘ജി പി ടി 6.1’ (മുമ്പത്തെ മോഡലുകളുമായി താരതമ്യം ചെയ്യുമ്പോൾ), പ്രത്യേകിച്ച് ആലസ്യത്തിനുള്ള പ്രവണതയുടെ കാര്യത്തിൽ, പുരോഗതി കാണിച്ചുവെന്നാണ്. കൂടുതൽ നീണ്ട കാലയളവ് വരെ യുക്തിസഹമായ ചിന്തനം തുടരാൻ അതിന് കഴിയുന്നുവെന്നും പ്രക്രിയകളെ ചുരുക്കുന്നതിലേക്ക് അത് കുറച്ച് മാത്രമേ ആശ്രയിക്കുന്നുള്ളൂവെന്നും അവർ വിശദീകരിച്ചു.

എന്നിരുന്നാലും, അതിന്റെ അധികാരപരിധിയോടും അതിന് അനുവദിച്ചിരിക്കുന്ന കാര്യങ്ങളോടും ഉള്ള കൂറ്റിന്റെ കാര്യത്തിലും, അത് പൂർത്തിയാക്കിയ ജോലിയെക്കുറിച്ച് അത് റിപ്പോർട്ട് ചെയ്യുന്ന രീതിയിലും അത് ആവശ്യമായ നിലവാരത്തിൽ എത്തിയില്ലെന്ന് അവർ ചേർത്തു.

അതിനാൽ, നിർദ്ദേശങ്ങളോടും അതിന് ഏർപ്പെടുത്തിയിരിക്കുന്ന പരിമിതികളോടും ഉള്ള കൂറ് മെച്ചപ്പെടുത്തുന്നതിനായി ഓപ്പൺഎഐ മോഡലിന്റെ പുറത്തിറക്കൽ റദ്ദാക്കി.

ജെയിൻ പറഞ്ഞു: “ഉപയോക്താക്കൾക്ക് ഒരു മോഡൽ നൽകുമ്പോൾ, സുരക്ഷയുടെയും പാലകതയുടെയും കാര്യത്തിൽ നമുക്ക് വളരെ ഉയർന്ന മാനദണ്ഡങ്ങളാണ് നാം സ്ഥാപിക്കുന്നത്.”

ഒരു വെല്ലുവിളി, കൃത്രിമബുദ്ധിയെ പാതയിൽ നിന്ന് വ്യതിചലിക്കാതിരിക്കാൻ നിയന്ത്രിക്കുക എന്നതാണ്, അതേസമയം അതിന്റെ കാര്യക്ഷമതയോടെ അതിന്റെ ദൗത്യം തുടരാൻ കഴിയുന്ന ശേഷി സംരക്ഷിക്കുക എന്നതാണ് മറ്റൊരു വെല്ലുവിളി.