Suja Viswesan, vicedirektør for udvikling af sikkerhedssoftware, IBM
Men sikkerheden skal holde trit
AI agenter – altså softwaresystemer, der er i stand til at træffe beslutninger eller udføre opgaver autonomt – er ikke længere eksperimentelle. I dag opererer, distribuerer og træffer agenter aktivt beslutninger på tværs af virksomheden. De udfører mange forskellige slags opgaver fra at skrive kode til at planlægge opgaver, og de begynder at gennemsyre alle aspekter af virksomheden. Årsagen er åbenlys, for med agenter følger betydelige produktivitetsgevinster, men også øgede sikkerhedsricisi.
IBMs vicedirektør for udvikling af sikkerhedssoftware, Suja Viswesan, siger: “Agenter er allerede fuldt operationelle i mange virksomheder og udfører opgaver som kodning og planlægning. Men efterhånden som adoptionen vokser, vil mange organisationer stå over for en ny udfordring: nemlig at sikre agenter i stor skala. Virksomheder bliver nødt til at sikre, at innovation ikke overgår sikkerhed og styring. En enkelt fejljustering, sårbarhed eller utilsigtet adfærd kan føre til en løbsk effekt af uetiske eller skadelige handlinger.”
Nogle agenter vil være dybt indlejrede i organisationen, hvilket gør dem vanskelige at opdage eller overvåge. Andre vil operere autonomt, løbende lære og tilpasse sig i realtid. Mange kan have brede adgangsrettigheder i effektivitetens navn. Det kan betyde et betydeligt potentiale for både positiv effekt og risiko.
Virkelige AI-fejl, såsom vildledende rådgivning eller aggressive chatbot-svar, understreger behovet for sikre, veluddannede agenter. Erfaringer fra cloud computings sikkerhedsfejltrin fremhæver vigtigheden af at integrere sikkerhed fra starten.
Viswesan: “Uden konsekvent tilsyn kan agenter handle uden for deres tilsigtede anvendelse og skade brandets omdømme. Derfor er det vigtigt, at sikkerheden er indbygget fra starten. Ligesom salt og peber kan du altid drysse mere på senere, men hvis du glemmer at tilføje det under tilberedningen, vil smagen – og i dette tilfælde beskyttelsen – bare ikke være den samme. Sikkerhed skal integreres fra starten, og at vente med at eftermontere sikkerheden til efter implementeringen er en opskrift på sårbarheder.”
Viswesan fortsætter: “Tænk bare på, hvad der skete under massemigrationen til cloud computing-teknologier. Adoption førte til alvorlige sikkerhedsfejltrin, datasiloer og huller i synligheden. Huller, der er blevet og fortsat bliver udnyttet af angribere i dag. Med agenter er det som et slemt tilfælde af déjà vu. Endnu engang overgår innovation sikkerheden. I mange tilfælde integreres disse autonome værktøjer i kritiske systemer med begrænset tilsyn og mangler ordentlig sikkerhed og kontrol.
Hvis vi ikke anvender de hårde erfaringer fra cloud-æraen, risikerer vi at gentage de samme fejl, men denne gang med langt mere uforudsigelige systemer. Derfor skal sikkerhed være kernen i agenternes arbejde.”
