ഒരു അസിസ്റ്റന്റിനെ നിയമിക്കുമ്പോൾ വീടിന്റെയും ബാങ്കിന്റെയും താക്കോൽ കൈമാറാത്തതുപോലെ, എഐ സാങ്കേതികവിദ്യയിലും ജാഗ്രത വേണം. വിവരങ്ങൾ നൽകുന്നതിനപ്പുറം ഇമെയിലുകൾ വായിക്കാനും പണം ചെലവാക്കാനും കോഡിങ് ചെയ്യാനും ശേഷിയുള്ള എഐ ഏജന്റുകൾ ഇന്ന് സജീവമാണ്. അതിനാൽ, എഐയുടെ പ്രവർത്തനങ്ങളിൽ മനുഷ്യന്റെ നിയന്ത്രണം നഷ്ടപ്പെടാതെ സൂക്ഷിക്കേണ്ടത് സുരക്ഷയ്ക്ക് അത്യന്താപേക്ഷിതമാണ്.
Imagine hiring a brilliant assistant who is hard-working and extremely effective. Would you hand over the keys to your house and car, and access to your bank account, to him on day one? That is the decision we are making with AI. Until recently, the worry was what AI might say: invent a fact, give bad advice. Today’s AI is materially different, raising concerns on what AI might do. An agent can read your e-mail, access files, write code, spend money and act across systems, often without checking with you at every step.
