Databricks en Noma pakken de AI-nachtmerries van CISOs aan rond inferentievulnerabiliteiten

CISOs weten precies waar hun AI-nachtmerrie zich het snelst ontvouwt: bij de inferentie. Dit is het kwetsbare stadium waarin live modellen worden blootgesteld aan echte werelddata, waardoor ondernemingen risico lopen op promptinjectie, datalekken en model jailbreaks.

Databricks Ventures en Noma Security confronteren deze bedreigingen in de inferentiefase rechtstreeks. Met een recente financieringsronde van 32 miljoen dollar, geleid door Ballistic Ventures en Glilot Capital en met sterke ondersteuning van Databricks Ventures, is de samenwerking gericht op het aanpakken van de kritieke beveiligingslacunes die de implementatie van AI in ondernemingen belemmeren.

Het Cybersecurity-Eerste AI Model

“De belangrijkste reden waarom ondernemingen aarzelen om AI op grote schaal te implementeren, is beveiliging,” zei Niv Braun, CEO van Noma Security, in een exclusief interview met VentureBeat. “Met Databricks integreren we realtime dreigingsanalyses, geavanceerde beveiligingsmaatregelen voor de inferentielaag en proactieve AI red teaming direct in de workflows van ondernemingen. Onze gezamenlijke aanpak stelt organisaties in staat om hun AI-ambities veilig en met vertrouwen te versnellen,” aldus Braun.

Beveiligen van AI-inferentie vereist realtime analyses en runtime verdediging, volgens Gartner

Traditionele cybersecurity legt de nadruk op perimeterverdedigingen, waardoor de kwetsbaarheden van AI-inferentie gevaarlijk over het hoofd worden gezien. Andrew Ferguson, Vice President bij Databricks Ventures, benadrukte deze kritieke beveiligingslacune in een exclusief interview met VentureBeat, en wees op de urgentie van klanten met betrekking tot de beveiliging van de inferentielaag. “Onze klanten hebben duidelijk aangegeven dat het beveiligen van AI-inferentie in realtime cruciaal is, en Noma biedt deze mogelijkheid uniek aan,” zei Ferguson. “Noma pakt de beveiligingslacune van inferentie aan met continue monitoring en nauwkeurige runtime-controles.”

Braun breidde deze kritische behoefte verder uit. “We hebben onze runtime-bescherming specifiek ontwikkeld voor steeds complexere AI-interacties,” legde Braun uit. “Realtime dreigingsanalyses in de inferentiefase zorgen ervoor dat ondernemingen robuuste runtime-verdedigingen handhaven, waardoor ongeoorloofde blootstelling van gegevens en manipulatie van modellen wordt geminimaliseerd.”

Recent onderzoek van Gartner bevestigt dat de vraag van ondernemingen naar geavanceerde AI Trust, Risk, and Security Management (TRiSM) mogelijkheden toeneemt. Gartner voorspelt dat tot 2026 meer dan 80% van de ongeoorloofde AI-incidenten voortkomen uit intern misbruik in plaats van externe bedreigingen, wat de urgentie voor geïntegreerd bestuur en realtime AI-beveiliging versterkt.

Noma's proactieve red teaming heeft als doel de integriteit van AI vanaf het begin te waarborgen

Noma’s proactieve red teaming benadering is strategisch essentieel om kwetsbaarheden te identificeren nog voordat AI-modellen in productie gaan, vertelde Braun aan VentureBeat. Door geavanceerde tegenstandersaanvallen tijdens pre-productietests te simuleren, brengt Noma risico's vroegtijdig aan het licht en pakt deze aan, wat de robuustheid van runtime-bescherming aanzienlijk vergroot.

Tijdens zijn interview met VentureBeat lichtte Braun de strategische waarde van proactieve red teaming verder toe: “Red teaming is essentieel. We ontdekken proactief kwetsbaarheden, zodat we verbeteringen kunnen doorvoeren voordat de modellen op de markt komen. Dit zorgt ervoor dat onze klanten met vertrouwen AI kunnen inzetten, wetende dat ze goed beschermd zijn.”

Het is duidelijk dat de samenwerking tussen Databricks en Noma een belangrijke stap is in het verbeteren van de beveiliging van AI-inferentie. Deze gezamenlijke inspanning biedt ondernemingen de mogelijkheid om hun AI-initiatieven met meer zekerheid en minder risico te omarmen, wat cruciaal is in de huidige digitale wereld.

Vertaald met ChatGPT gpt-4o-mini