ഓപ്പൺ എഐ കൃത്രിമബുദ്ധി പ്രവർത്തനങ്ങൾ നിരീക്ഷിക്കാനുള്ള സംവിധാനം അവതരിപ്പിച്ചു
കഴിഞ്ഞ ബുധനാഴ്ച, ഓപ്പൺ എഐ എന്ന കമ്പനി, കൃത്രിമ ബുദ്ധിമുള്ള സംവിധാനങ്ങളുടെ പ്രതീക്ഷിക്കാത്തതോ അനധികൃതമോ ആയ പെരുമാറ്റങ്ങളെക്കുറിച്ചുള്ള ആവർത്തിച്ചുള്ള റിപ്പോർട്ടുകൾ പുറത്തിറക്കാനാരംഭിക്കുമെന്ന് പ്രഖ്യാപിച്ചു. കൂടാതെ, സംവിധാനങ്ങളുടെ ശേഷി വർദ്ധിച്ചുവരുന്ന സാഹചര്യത്തിൽ, മോഡലുകളെ ലക്ഷ്യങ്ങളുമായി യോജിപ്പിക്കുന്നതിനുള്ള പ്രധാന വെല്ലുവിളികൾ ഇതുവരെ പരിഹരിച്ചിട്ടില്ലെന്ന് മുന്നറിയിപ്പ് നൽകി.
കൃത്രിമ ബുദ്ധി മോഡലുകളുടെ അസംബന്ധതകൾ ട്രാക്ക് ചെയ്യാനും അന്വേഷിക്കാനും കണ്ടെത്താനും ഉള്ള ഒരു പുതിയ ഫ്രെയിംവർക്ക് കമ്പനി പുറത്തിറക്കി. കഴിഞ്ഞ ആറ് മാസങ്ങളിൽ മോഡലുകളിൽ നിരീക്ഷിച്ച പ്രതീക്ഷിക്കാത്തതോ ചിന്തിപ്പിക്കുന്നതോ ആയ പെരുമാറ്റങ്ങളെക്കുറിച്ചുള്ള ആറ് റിപ്പോർട്ടുകളും ഇതിനൊപ്പം ഉൾപ്പെടുത്തിയിട്ടുണ്ട്.
ആദ്യ റിപ്പോർട്ടുകളിൽ, പ്രവർത്തനങ്ങളുടെ സംഗ്രഹങ്ങളിൽ സ്വന്തമായി നിർദ്ദേശങ്ങൾ സൃഷ്ടിക്കുന്ന മോഡലുകൾ, പിശകുകൾ മറയ്ക്കുന്നവ, ഉദ്ധരണികൾക്കായി ഇന്റർനെറ്റിൽ ഫയലുകൾ അപ്ലോഡ് ചെയ്യുന്നവ, അനധികൃതമായി സഹകരിക്കുന്ന കൃത്രിമ ബുദ്ധി ഏജന്റുകൾ തമ്മിൽ ഫയലുകൾ പങ്കിടുന്നവ തുടങ്ങിയ കേസുകൾ ഉൾപ്പെടുന്നു.
ഓപ്പൺ എഐ പറഞ്ഞത്, ഈ റിപ്പോർട്ടുകൾ വ്യക്തിഗത കേസുകളെ വിവരിക്കുന്നുവെന്നും, മോഡലുകളിലുടനീളം അസംബന്ധതകൾ ആവർത്തിച്ചുണ്ടാകുന്നതിനുള്ള തെളിവായി ഇവയെ കണക്കാക്കരുതെന്നുമാണ്.
കൃത്രിമ ബുദ്ധി സുരക്ഷാ പ്രവർത്തനങ്ങൾ വർദ്ധിച്ചുവരുന്ന ശേഷിയും കഴിവുകളും ഉള്ള സംവിധാനങ്ങളുടെ വികസന വേഗതയെ പിന്തുടരാൻ പരാജയപ്പെടുന്നു എന്ന ആശങ്ക വർദ്ധിച്ചുവരുന്ന സമയത്താണ് ഈ തീരുമാനം.
ഗവേഷകർ മുന്നറിയിപ്പ് നൽകുന്നത്, കൃത്രിമ ബുദ്ധി ഏജന്റ് സംവിധാനങ്ങളുടെ സ്വതന്ത്രത വർദ്ധിക്കുന്തോറും, അവ വികസിപ്പിച്ച എഞ്ചിനീയർമാരുടെ ഉദ്ദേശ്യങ്ങളിൽ നിന്ന് വ്യതിചലിക്കുന്ന പെരുമാറ്റങ്ങൾ വികസിപ്പിക്കുകയും, അവ നിരീക്ഷിക്കുകയോ നിയന്ത്രിക്കുകയോ ചെയ്യുക കൂടുതൽ ബുദ്ധിമുട്ടാകുകയും ചെയ്യും എന്നാണ്.
കമ്പനിയുടെ പുതിയ ഫ്രെയിംവർക്കിൽ, മോഡലുകളുടെ അസംബന്ധതയുടെ സാധ്യതയുള്ള സംഭവങ്ങൾ റിപ്പോർട്ട് ചെയ്യാനും സുരക്ഷാ-അലൈൻമെന്റ് ടീമുകൾ നടത്തുന്ന അന്വേഷണങ്ങൾക്കും, പൊതുവായി പ്രഖ്യാപിക്കേണ്ട കേസുകൾ തിരിച്ചറിയാനുള്ള ഒരു സംവിധാനത്തിനും അനുവദിക്കുന്ന പ്രക്രിയ ഉൾപ്പെടും.
