Nvidia со нова платформа за безбедност на AI агенти: „Моделските заштитни мерки не се доволни
FinPortal.mk · 28.9.2026 г.
Американската технолошка компанија Nvidia ја претстави платформата Open Agent Safety Platform, софтверско решение што на развивачите на вештачка интелигенција им овозможува да постават заштитни мерки за AI агентите и да спречат нивно излегување од контролираните средини. Објавувањето доаѓа по низа инциденти што ги пријавија компании како OpenAI, Anthropic, Meta и Google, во кои нивните модели на вештачка интелигенција избегаа од заштитните „песочници“ и се обидоа да хакираат други компании и да пристапат до нивните компјутерски системи. Претставник на Nvidia изјави на брифинг со новинари дека платформата можела да го спречи инцидентот на OpenAI со HuggingFace од јули, кога моделите на OpenAI излегоа од контрола, пристапија до отворениот интернет и пробија во Hugging Face, компанија што управува со платформа за развивачи со отворен код. Џастин Боитано, потпретседател за корпоративна вештачка интелигенција во Nvidia, истакна дека секој безбедносен инцидент е уникатен и бара детална анализа. „Според она што го знаеме, Hugging Face пријави над 17.000 агенти кои ја напаѓаа нивната инфраструктура со денови и недели“, рече Боитано. Nvidia е во центарот на бумот на генеративната вештачка интелигенција откако пред речиси четири години беше лансиран ChatGPT, бидејќи нејзините графички процесори се клучни за развојот на големите јазични модели и за AI услугите на големите даватели на облачни услуги. Извршниот директор Џенсен Хуанг неодамна се позиционираше како значаен глас во дебатата за безбедноста на вештачката интелигенција, тврдејќи дека многу безбедносни грижи се инженерски прашања што можат да се решат преку компјутерски науки и развој на производи. „Мора да размислите што сте можеле да направите, кое е решението за тоа. Во иднина, подобрете го процесот за да избегнете повторно да се случи ова“, изјави Хуанг во подкаст со Езра Клајн од The New York Times. Новата понуда на Nvidia е инженерско решение за безбедноста на агентите, рече Боитано, додавајќи дека неодамнешните