CIO siktar på att utvidga teamet genom att skapa digitala kloner av personalen

UC San Diegos CIO vill använda AI-agenter och digitala tvillingar för att automatisera IT-arbete, förbättra cybersäkerhet och lätta på personalens börda.

Under denna veckas Cisco Live-konferens, föreslog Dr. Vince Kellen att AI-agenter och digitala kopior av erfaren IT-personal skulle utnyttjas för att hantera repetitiva uppgifter och nattliga nödsituationer, som först rapporterades av The Register.

Till en fullsatt publik sa Kellen, ”Alla vägar leder till höga nivåer av automatisering närhelst vi kan,” rapporterar The Register.

Universitetet fungerar som en liten stad eftersom det välkomnar mer än 100 000 människor per dag, samtidigt som det måste hantera minskande studentintag och begränsade finansiella resurser

Kellen förutspår att AI-system kommer att förvärva kunskap från teknikarbetare för att hantera ökande krav i framtiden. ”Vi har all denna kunskap i människor om nätverkspolicy som vi måste få ut ur deras tankar på ett slags droppbevattningssätt”, sa han, enligt vad The Register rapporterade.

Kellen tror att en långsam överföring av denna kunskap till AI skulle möjliggöra för IT-team att minska sin arbetsbelastning och förbättra nätverkets prestanda.

Oceanografiska institutet vid UCSD står också inför nationella säkerhetshot. ”När du sätter sonar i vattnet upptäcker du mer än bara fisk, och andra länder vill veta om det,” varnade han, enligt rapporter från The Register.

Cyberattacker som stöds av utländska krafter blir allt mer sofistikerade, vilket kräver att personalen automatiserar grundläggande försvar så att de kan fokusera på farligare hot.

Kellen tror att AI ”har potential att möjliggöra proaktiv upptäckt av problem” och ser digitala kloner som ett sätt att bevara personalens expertis samtidigt som deras börda lindras. ”Sedan behöver den personen inte plågas när det inträffar en annan incident. De blir inte uppringda nästa gång”, tillade han, som rapporterats av The Register.

Hans idé väcker en provocerande fråga: Skulle du låta din arbetsgivare digitalt klona din expertis om det innebar färre stressiga utryckningar? När automationen ökar, kan gränsen mellan mänskligt och maskinellt arbete suddas ut, men för IT-team kan det innebära mycket behövlig lättnad.

Men ökad automatisering väcker också oro för cybersäkerhet. System som drivs av automatiserade IT-arbetare och AI-agenter utgör attraktiva mål för hackare, eftersom ett angrepp på dessa system kan leda till omfattande störningar.

Faktum är att en komprometterad digital tvilling kan användas för att kringgå säkerhetsprotokoll och sprida skadlig programvara i en snabbare takt än mänskliga operatörer.

En rapport från World Economic Forum argumenterar för att angripare kan kontaminera AI-träningsdata eller upptäcka sårbarheter i AI-modeller, vilket resulterar i systemfel eller felaktig outputgenerering.

Dessa ”dataförgiftning-” och modellexploateringsattacker är ofta lätta att utföra men svåra att försvara sig mot, eftersom nuvarande säkerhetsåtgärder är otillräckliga, som noterat av ITPro.

Trots dessa risker erkänner 96% av IT-professionella att AI-agenter utgör ett säkerhetshot, men de flesta organisationer skyndar sig att implementera dem utan lämpliga kontroller eller policys, som rapporterats av ZDNet.