ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ (AI) വികസനം നിയന്ത്രിതമല്ലാത്ത രീതിയിൽ മുന്നോട്ടുപോയാൽ മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് ഗുരുതരമായ ഭീഷണിയാകുമെന്ന് ഗവേഷകർ മുന്നറിയിപ്പ് നൽകി. AI സാങ്കേതികവിദ്യയുടെ വളർച്ച മന്ദഗതിയിലാക്കുന്നതിനുള്ള നടപടികൾ പര്യാപ്തമല്ലെങ്കിൽ മനുഷ്യവംശനാശം സംഭവിക്കുന്നത് സമയത്തിന്റെ മാത്രം പ്രശ്നമായി മാറിയേക്കാമെന്നാണ് അവരുടെ വിലയിരുത്തൽ. Anthropic എന്ന പ്രമുഖ AI കമ്പനിയിലെ മുൻ ഗവേഷകനായ ജേക്കബ് കോക്സൺ, AI വ്യവസായം സ്വയം മെച്ചപ്പെടുന്ന സൂപ്പർ ഇന്റലിജൻസ് വികസിപ്പിക്കുന്നതിലേക്ക് അതിവേഗം നീങ്ങുകയാണെന്നും മനുഷ്യരാശിയുടെ സുരക്ഷയ്ക്ക് ഇത് വലിയ അപകടസാധ്യത സൃഷ്ടിക്കുന്നുണ്ടെന്നും ആരോപിച്ചു. Anthropic-ലും OpenAI-ലും ഗവേഷണം നടത്തിയിട്ടുള്ള കോക്സൺ, AI വികസനത്തിന് കൂടുതൽ ശക്തമായ നിയന്ത്രണങ്ങളും സുരക്ഷാ നടപടികളും ആവശ്യമാണെന്ന് വ്യക്തമാക്കി.
കോക്സന്റെ മുന്നറിയിപ്പിന് പിന്നാലെ Anthropic-ലെ അലൈൻമെന്റ് സയൻസ് ലീഡ് ഇവാൻ ഹ്യൂബിംഗറും ആശങ്കകൾ പങ്കുവച്ചു. മനുഷ്യരുടെ ലക്ഷ്യങ്ങളുമായി AI സംവിധാനങ്ങളുടെ പ്രവർത്തനം പൊരുത്തപ്പെടുന്നുവെന്ന് ഉറപ്പാക്കുന്നതിൽ വ്യവസായം ഇപ്പോഴും പിന്നിലാണെന്നും, അടുത്ത ദശകത്തിനുള്ളിൽ AI മനുഷ്യവംശനാശത്തിന് കാരണമാകാനുള്ള സാധ്യത 10 ശതമാനത്തിലധികമാണെന്നുമാണ് അദ്ദേഹത്തിന്റെ വ്യക്തിപരമായ വിലയിരുത്തൽ. ഈ കണക്ക് ശാസ്ത്രീയമായി സ്ഥിരീകരിച്ച പ്രവചനമല്ലെന്നും വിദഗ്ധർക്കിടയിൽ അപകടസാധ്യതയുടെ തോതിനെക്കുറിച്ച് അഭിപ്രായവ്യത്യാസങ്ങളുണ്ടെന്നും റിപ്പോർട്ടുകൾ വ്യക്തമാക്കുന്നു. AI സംവിധാനങ്ങൾ കൂടുതൽ സ്വയംഭരണശേഷിയുള്ളതാകുമ്പോൾ അവയുടെ ലക്ഷ്യങ്ങൾ മനുഷ്യരുടെ താൽപര്യങ്ങളുമായി പൊരുത്തപ്പെടാതെ പോകാനുള്ള സാധ്യതയാണ് പ്രധാന ആശങ്ക. സൈബർ സുരക്ഷ, തെറ്റായ വിവരങ്ങളുടെ വ്യാപനം, അപകടകരമായ സാങ്കേതികവിദ്യകളുടെ ദുരുപയോഗം എന്നിവയ്ക്കു പുറമേ, ഭാവിയിൽ അത്യന്തം ശക്തമായ AI സംവിധാനങ്ങളെ നിയന്ത്രിക്കാൻ കഴിയാതെ വരുമോ എന്ന ചോദ്യവും ഉയരുന്നുണ്ട്.
AI വികസനത്തിന്റെ വേഗത കുറയ്ക്കണമെന്ന ആവശ്യം സാങ്കേതിക വ്യവസായത്തിലെ പ്രമുഖരിൽ നിന്നും ഉയർന്നിട്ടുണ്ട്. Anthropic സിഇഒ ഡാരിയോ അമോഡെയ്, ശക്തമായ AI സംവിധാനങ്ങളുടെ വികസനത്തിൽ സുരക്ഷാ പരിശോധനകൾക്കും മൂന്നാംകക്ഷി മേൽനോട്ടത്തിനും കൂടുതൽ പ്രാധാന്യം നൽകണമെന്ന് ആവശ്യപ്പെട്ടു. OpenAI സിഇഒ സാം ആൾട്ട്മാനും AI സുരക്ഷയ്ക്കായി വ്യവസായതലത്തിലുള്ള ഏകോപനത്തിന്റെ ആവശ്യകത അംഗീകരിച്ചിട്ടുണ്ട്. അതേസമയം, AI സാങ്കേതികവിദ്യ ആരോഗ്യരംഗം, ശാസ്ത്രം, വിദ്യാഭ്യാസം, വ്യവസായം തുടങ്ങി വിവിധ മേഖലകളിൽ വലിയ നേട്ടങ്ങൾ നൽകാൻ കഴിയുന്ന സാങ്കേതികവിദ്യയാണ്. എന്നാൽ അതിന്റെ സാധ്യതകൾ പ്രയോജനപ്പെടുത്തുന്നതിനൊപ്പം മനുഷ്യസുരക്ഷ ഉറപ്പാക്കുന്നതിനുള്ള നിയമങ്ങളും നിയന്ത്രണങ്ങളും ശക്തമാക്കേണ്ടത് അനിവാര്യമാണ്.
AI വികസനത്തിൽ സുതാര്യത, സ്വതന്ത്ര സുരക്ഷാ പരിശോധനകൾ, ഉത്തരവാദിത്തപരമായ ഗവേഷണം, അന്താരാഷ്ട്ര സഹകരണം എന്നിവ ഉറപ്പാക്കണമെന്നാണ് ഉയരുന്ന ആവശ്യം. സാങ്കേതിക പുരോഗതിയും മനുഷ്യരാശിയുടെ സുരക്ഷയും തമ്മിൽ സന്തുലിതാവസ്ഥ നിലനിർത്തുക എന്നത് ലോകം നേരിടുന്ന പ്രധാന വെല്ലുവിളിയായി തുടരുകയാണ്.