Nvidia претстави безбедносна платформа за контрола на AI агенти и најави откуп на акции од 150 милијарди долари
Американскиот производител на чипови Nvidia во понеделникот ја претстави новата безбедносна платформа „Open Agent Safety Platform“, за која тврди дека може да го спречи одметнувањето на агентите со вештачка интелигенција. Истиот ден компанијата објави и откуп на сопствени акции во вредност од 150 милијарди долари, со што вкупната програма за откуп се искачува на 235 милијарди долари, откако одборот на директори ја одобрил нејзината експанзија.
Според соопштението на компанијата, платформата вклучува софтвер со отворен код што „поставува граници за агентите“. Нејзиното претставување доаѓа по низа откритија од врвни AI компании за нивните модели што излегле од контрола и пробиле во други организации. Nvidia соопшти дека повеќе од 100 организации ја користат платформата при нејзиното лансирање, меѓу кои Microsoft, Perplexity, Accenture и JPMorgan Chase.
Компанијата потсети дека минатиот месец прогнозираше раст на приходите од околу 70 отсто за фискалната 2028 година, што ги увери инвеститорите кои се прашуваа колку долго може да трае бранот на трошење за вештачка интелигенција по годините на експлозивен раст.
Инцидентот со Hugging Face беше високопрофилен безбедносен пропуст што ги разгоре стравувањата за безбедноста на вештачката интелигенција. По него следеа слични одметнати дејства на моделите на OpenAI, вклучително и пробивање на веб-страницата на австралиски здравствен оддел. Anthropic и Meta исто така открија дека нивните AI системи самостојно пробиле во други организации.
Џастин Боитано, потпретседател за корпоративна вештачка интелигенција во Nvidia, изјави на брифинг за медиумите дека новиот систем можел да го спречи неодамнешниот инцидент со рој агенти на OpenAI што автономно го хакирале AI-компанијата Hugging Face. „Според она што го знаеме, оваа нова безбедносна платформа можела да ја запре пробивот доколку се користела во водечките лаборатории за евалуација на модели уште од почетокот“, рече Боитано.
Софтверот на Nvidia, наречен OpenShell, им овозможува на развивачите „формално да потврдат дека агентот има доволно овластување да ја изврши својата работа и ништо повеќе“, рече Боитано. Бидејќи е со отворен код, може да се „прошири“ за работа на конкурентски компјутерски платформи, вклучително и оние на Arm и Intel. Платформата вклучува и посебен безбедносен слој наречен Sentry, кој работи на чипот и постојано ја следи активноста на AI агентот и може „моментално да интервенира“ ако агентот се обиде да излезе надвор од целта. „Може да стави во карантин сомнителен агент за милисекунди“, рече Боитано.
Дебатата за безбедноста на вештачката интелигенција ја подели индустријата. Чеlниците на Anthropic и OpenAI се залагаат за координирано забавување на развојот на AI за да може безбедносните напори да го стигнат темпото. Други, вклучително и Хуанг, сметаат дека секоја компанија треба сама да се погрижи нејзините модели да бидат безбедни за објавување. Хуанг, за време на годишната технолошка конференција на Salesforce одржана претходно овој месец, ја опиша безбедноста на вештачката интелигенција, вклучително и опасноста од одметнати агенти, како инженерски проблем што развивачите на софтвер можат да го решат.