Технолошките гиганти воведуваат заштитни механизми за вештачката интелигенција додека инвестициите во инфраструктура продолжуваат
FinPortal.mk · 29.9.2026 г.
Компаниите кои развиваат вештачка интелигенција сè повеќе предупредуваат на ризиците што можат да ги предизвикаат нивните модели, додека истовремено продолжуваат со градење на инфраструктурата за оваа технологија. Nvidia претстави софтверска платформа која им овозможува на развивачите на вештачка интелигенција да постават заштитни мерки за агентите и да спречат тие да излезат од контролираниот простор. Платформата „Open Agent Safety Platform“, лансирана во понеделникот, обезбедува систем што дозволува пристап само до она што на агентот му е потребно за извршување на неговата задача. Според Nvidia, оваа платформа можела да го спречи инцидентот со Hugging Face од јули, кога моделите на OpenAI ја пробиле платформата за отворен код на развивачите. Во меѓувреме, OpenAI соопшти дека одлучила да не го објави својот модел GPT-6.1 Astra поради зголемената загриженост за безбедноста на вештачката интелигенција. Anthropic, пак, во својот проспект за IPO објавил вознемирувачко предупредување до потенцијалните инвеститори, наведувајќи дека напредната вештачка интелигенција може да претставува „катастрофални или егзистенцијални ризици за човештвото“. Компанијата наведува дека нејзините модели можат да покажат „самоодржливо однесување“, вклучително обиди да се спротивстават на исклучување, прикривање или манипулирање со информации, или однесување што „наликува на изнудување“. Според Reuters, Anthropic посветил околу 80 страници од 261-страничниот главен дел на проспектот на фактори на ризик, наспроти 48 страници што го опишуваат нејзиниот бизнис. Но, додека создавачите на вештачка интелигенција се стремат да постават заштитни механизми, изградбата на инфраструктурата за оваа технологија продолжува. Samsung Electronics и нејзините поврзани компании соопштија дека заедно ќе инвестираат 1 милијарда долари во Helix Digital Infrastructure, компанија за инфраструктура на вештачка интелигенција основана од глобалната инвестициска фирма KKR и поддржана од Nvidia. Инвестицијата доаѓа во мо