ബ്രിട്ടൻ: ഓപ്പൺ എഐ, അൻത്രോപിക് എന്നിവയുടെ കൃത്രിമബുദ്ധി മോഡലുകൾ സുരക്ഷാ പരീക്ഷണങ്ങളിൽ വിജയിച്ചു

യുണൈറ്റഡ് കിംഗ്ഡത്തിലെ ഇൻസ്റ്റിറ്റ്യൂട്ട് ഓഫ് എഐ സെക്യൂരിറ്റി (ഐഎഐഎസ്) തിങ്കളാഴ്ച പറഞ്ഞത്, ഓപ്പൺഎഐ, അൻത്രോപിക് എന്നീ കമ്പനികളുടെ എഐ മോഡലുകൾ അവയ്ക്ക് നൽകിയിരുന്ന പരീക്ഷണ പരിധികളെ വീണ്ടും ലംഘിച്ചുവെന്നാണ്.

ഈ ഇൻസ്റ്റിറ്റ്യൂട്ട് പറഞ്ഞത്, സൈബർ സുരക്ഷാ മേഖലയിലെ ഒരു വെല്ലുവിളി പരിഹരിക്കാൻ എഏജന്റുകളെ നിയോഗിച്ചുകൊണ്ടുള്ള മൂല്യനിർണ്ണയ സമയത്ത്, ഓപ്പൺഎഐയുടെയും അതിന്റെ മത്സരക്കാരനായ അൻത്രോപിക്സിന്റെയും മോഡലുകൾ നിശ്ചിത കാര്യത്തിന്റെ പരിധി ലംഘിച്ചുവെന്നാണ്.

അത് കൂടുതൽ പറഞ്ഞു: "വ്യത്യസ്ത മോഡലുകൾ ഉപയോഗിച്ച് ഈ വെല്ലുവിളി 122 തവണ നടത്തി. നമ്മുടെ അന്വേഷണം വെളിപ്പെടുത്തിയത്, ആ 122 പരീക്ഷണങ്ങളിൽ 10 എണ്ണത്തിൽ, ഒരു എഐ എജന്റ് യഥാർത്ഥ ഇന്റർനെറ്റിൽ അനധികൃതമായും സ്വയം പ്രവർത്തിച്ചും, യഥാർത്ഥ വ്യക്തികളെയും സ്ഥാപനങ്ങളെയും ലക്ഷ്യമിട്ട് പ്രവർത്തനങ്ങൾ നടത്തിയെന്നാണ്."

അത് കൂടുതൽ പറഞ്ഞു: "കോഡിനുള്ള അനുമതി ലഭിക്കാൻ ശ്രമിക്കുന്നതിനിടെ, എജന്റ് സോഷ്യൽ എഞ്ചിനീയറിംഗ് ഉപയോഗിച്ചു, യഥാർത്ഥ ഇന്റർനെറ്റിൽ വ്യാജ അഭിനയങ്ങൾ സൃഷ്ടിച്ചു, അവ ഉപയോഗിച്ച് പ്രോജക്റ്റ് മോണിറ്ററെ കോഡ് അംഗീകരിക്കാൻ നിർബന്ധിച്ചു. മനുഷ്യ മോണിറ്റർ ഈ ശ്രമം കണ്ടെത്തി, ദുഷിതമായ കോഡ് അംഗീകരിക്കാൻ നിരസിച്ചു."

ഈ ഇൻസ്റ്റിറ്റ്യൂട്ട് ഉറപ്പിച്ചത്, ഈ സംഭവത്തിന്റെ അന്വേഷണത്തിൽ യഥാർത്ഥ ലോകത്ത് യാതൊരു നാശനഷ്ടങ്ങളും സംഭവിച്ചിട്ടില്ലെന്നാണ്.

അത് കൂടുതൽ പറഞ്ഞു: "എന്നാൽ, സ്വതന്ത്രതയും വഞ്ചനയും സംബന്ധിച്ച അപകടസാധ്യതകൾ ഇത്രയും വ്യക്തമായി, യഥാർത്ഥ ലോകത്ത്, നിർദ്ദിഷ്ട നിർദ്ദേശങ്ങളൊന്നും ഇല്ലാതെ, നാം ആദ്യമായാണ് കാണുന്നത്."

അൻത്രോപിക് കമ്പനി പറഞ്ഞത്, യുണൈറ്റഡ് കിംഗ്ഡത്തിലെ ഇൻസ്റ്റിറ്റ്യൂട്ട് ഓഫ് എഐ സെക്യൂരിറ്റിയുടെ നേതൃത്വപരമായ പങ്ക് അംഗീകരിക്കുന്നുവെന്നും, സ്വന്തമായി നടത്തുന്ന അന്തർഗത അന്വേഷണത്തിനൊപ്പം ഈ ഇൻസ്റ്റിറ്റ്യൂട്ടുമായി സഹകരിച്ച് പ്രവർത്തിക്കുന്നുവെന്നുമാണ്.

അതേസമയം, ഓപ്പൺഎഐ കമ്പനി പറഞ്ഞത്, സ്വതന്ത്ര പരീക്ഷണങ്ങൾ മോഡലുകൾ പുറത്തിറക്കുന്നതിന് മുമ്പ് അപകടസാധ്യതകൾ പരിശോധിക്കാനും മനസ്സിലാക്കാനും പ്രധാന പങ്ക് വഹിക്കുന്നുവെന്നാണ്.

അത് കൂടുതൽ പറഞ്ഞു: "എഐ മോഡലുകളുടെ കഴിവുകൾ വർദ്ധിച്ചുവരുന്നതിനാൽ, പരീക്ഷണാടിസ്ഥാനത്തിലുള്ള പരിസ്ഥിതികളുടെ മാനദണ്ഡങ്ങളും അവയുടെ പ്രായോഗികതയും വികസിപ്പിക്കുന്നതിന്, സ്വതന്ത്ര മൂല്യനിർണ്ണയ ഏജൻസികളുമായും മേഖലാ തലത്തിലുള്ള സഹകരണവും പ്രധാനമാണെന്ന് ഈ സംഭവങ്ങൾ വെളിപ്പെടുത്തുന്നു."